Sécurité, intelligence artificielle et confiance : impacts et solutions pour une meilleure implémentation au sein des organisations - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2023

Security, artificial intelligence and trust: impacts and solutions for a better implementation within organizations

Seguridad, inteligencia artificial y confianza: repercusiones y soluciones para una mejor implantación en las organizaciones

Sécurité, intelligence artificielle et confiance : impacts et solutions pour une meilleure implémentation au sein des organisations

Résumé

Today, new technologies have invaded the field of security. The protection of people and property is now being replaced by 'pervasive' technology (Claverie et al., 2009). However, in the event of security difficulties, responses often focus on these technologies before engaging in a reflection on the human being and its complexity, reflecting an orientation towards technological determinism (Doray & Millerand, 2015). This tendency towards security perfection, due to solutionist thinking (Vigouroux-Zugasti, 2018), is now leading to the application of 'augmented security'. The term 'augmented' means, in this case, that it is the performance of security technologies that is increased, feeding a logic of 'always more', 'always better', but with ever fewer humans. There are many examples of this principle of increased security, characteristic of a progressive rise in this security pervasiveness. In particular, the shortage of staff on the ground is now compensated for by the addition of security technologies (video protection, pedestrian cameras, facial recognition, anti-fraud technology) within cities and organisations (Diard, 2018; Lollia, 2019; Diard & Dufour, 2022). Now, in this logic of perfectibility, these security tools are reinforced by artificial intelligence (AI). With this human-machine (augmented) coupling, the security professional uses the machine's skills by accepting the fact that the machine performs certain tasks much more efficiently than he does, thanks in particular to its 'augmentation'. However, it should be borne in mind that AI is not a substitute with knowledge. It emerges that the use of AI in the field of security poses a problem of legitimacy, perception, acceptability (trust, collaborative work) and recognition (pride in the work done). This leads us to the following questions: Are AI and security compatible with user confidence in the security field? Does AI give legitimacy to decision making? We will try to answer these questions by posing the hypothesis that in the field of security, AI, however necessary it may seem, resolutely raises a problem of trust due to questions of acceptability, intelligibility and ethics. To this end, we will adopt a constructivist and interpretive stance. This paper will demonstrate the necessity, if not the inevitability, of the implementation of AI in new security technologies. We will also analyse the risks inherent in AI and security. The creation of this culture of excellence also raises questions about the dependence on the results of these "augmented" technologies. Faced with all these questions, we will propose not only elements of response, but also ethical solutions concerning direct biases (such as discrimination) and indirect biases (for example, the credit risk for a social category that is not taken into account, distorting the result of the final analysis) or the construction of algorithms, with the question of their neutrality in correcting one bias by another. Finally, we will present some solutions to strengthen the AI/safety/trust trinity, in particular by referring to the principle of ethics by design.
Hoy en día, las nuevas tecnologías han invadido el campo de la seguridad. La protección de personas y bienes está siendo sustituida por tecnología "omnipresente" (Claverie et al., 2009). Sin embargo, cuando surgen problemas de seguridad, las respuestas suelen centrarse en estas tecnologías antes de considerar el elemento humano y su complejidad, lo que refleja una orientación hacia el determinismo tecnológico (Doray y Millerand, 2015). Esta tendencia hacia la perfección de la seguridad, impulsada por el pensamiento solucionista (Vigouroux-Zugasti, 2018), está conduciendo actualmente a la aplicación de la "seguridad aumentada". El término "aumentada" significa, en este caso, que lo que se aumenta es el rendimiento de las tecnologías de seguridad, alimentando una lógica de "siempre más", "siempre mejor", pero con cada vez menos humanos. Hay muchos ejemplos de este principio de seguridad reforzada, característico de un aumento gradual de la omnipresencia de la seguridad. En particular, la falta de mano de obra sobre el terreno se compensa ahora con la incorporación de tecnologías de seguridad (videovigilancia, cámaras peatonales, reconocimiento facial, tecnología antifraude) tanto en las ciudades como en las organizaciones (Diard, 2018; Lollia, 2019; Diard y Dufour, 2022). Ahora, como parte de este impulso de perfectibilidad, estas herramientas de seguridad están siendo mejoradas por la inteligencia artificial (IA). Con este acoplamiento hombre-máquina (aumentado), el profesional de la seguridad utiliza las competencias de la máquina, aceptando que esta realice ciertas tareas de forma mucho más eficaz que él, gracias en particular a su "aumento". Sin embargo, hay que tener en cuenta que la IA no sustituye a los conocimientos. Lo que se plantea es que el uso de la IA en el ámbito de la seguridad plantea un problema de legitimidad, percepción, aceptabilidad (confianza, trabajo en colaboración) y reconocimiento (orgullo por el trabajo realizado). Esto nos lleva a las siguientes preguntas: ¿son compatibles la IA y la seguridad con la confianza de los usuarios en el ámbito de la seguridad? ¿Aporta la IA legitimidad a la toma de decisiones? Intentaremos responder a estas preguntas planteando la hipótesis de que en el ámbito de la seguridad, la IA, por muy necesaria que parezca, plantea decididamente un problema de confianza debido a cuestiones de aceptabilidad, inteligibilidad y ética. Para ello, adoptaremos una postura constructivista e interpretativa. El objetivo de este documento será demostrar el carácter necesario, si no inevitable, de la aplicación de la IA en el marco de las nuevas tecnologías de seguridad. También analizaremos los riesgos inherentes a la IA y la seguridad. La creación de esta cultura de excelencia también plantea la cuestión de la dependencia de los resultados de estas tecnologías "aumentadas". Frente a todas estas cuestiones, propondremos no sólo algunas respuestas, sino también soluciones éticas relativas a los sesgos directos (como la discriminación) e indirectos (por ejemplo, el riesgo de crédito para una categoría social que no se tiene en cuenta, distorsionando el resultado del análisis final) o la construcción de algoritmos, con la cuestión de su neutralidad al corregir un sesgo con otro. Por último, presentaremos algunas soluciones para reforzar la trinidad IA/seguridad/confianza, en particular refiriéndonos al principio de la ética por el diseño.
Aujourd’hui, les nouvelles technologies ont envahi le champ de la sécurité. La protection des personnes et des biens laisse désormais place à une technologie « pervasive » (Claverie et al., 2009). Pourtant, en cas de difficultés sécuritaires, les réponses mettent souvent l’accent sur ces technologies avant d’engager une réflexion sur l’humain et sa complexité, reflétant une orientation vers un déterminisme technologique (Doray & Millerand, 2015). Cette tendance à la perfection sécuritaire, due à une pensée solutionniste (Vigouroux-Zugasti, 2018), entraîne aujourd’hui l’application d’une « sécurité augmentée ». Le terme « augmenté » signifie, en l’espèce, que ce sont les performances des technologies de sécurité qui sont augmentées, alimentant une logique du « toujours plus », du « toujours mieux », mais avec toujours moins d’humains. Nombreux sont les exemples de ce principe de sécurité augmentée, caractéristique d’une montée progressive de cette pervasivité sécuritaire. Notamment, l’insuffisance du nombre des effectifs sur le terrain est aujourd’hui palliée par l’ajout de technologies de sécurité (vidéoprotection, caméras-piétons, reconnaissance faciale, technologie antifraude) au sein des villes comme des organisations (Diard, 2018 ; Lollia, 2019 ; Diard & Dufour, 2022). Désormais, dans cette logique de perfectibilité, ces outils de sécurité sont renforcés par l’intelligence artificielle (IA). Avec ce couplage homme-machine (augmentée), le professionnel de la sécurité utilise les compétences de la machine en acceptant le fait que celle-ci accomplit certaines tâches beaucoup plus efficacement que lui, grâce notamment à son « augmentation ». Cependant, il faut garder à l’esprit que l’IA n’est pas un substitut doté de connaissances. Il en ressort que l’utilisation de l’IA dans le champ de la sécurité pose un problème de légitimité, de perception, d’acceptabilité (confiance, travail collaboratif) et de reconnaissance (fierté à la suite du travail accompli). Cela nous amène aux interrogations suivantes : l’IA et la sécurité sont-elles compatibles avec la confiance de l’usager dans le domaine sécuritaire ? L’IA donne-t-elle une légitimité aux prises de décisions ? Nous tenterons d’y apporter des réponses en posant l’hypothèse que dans le champ sécuritaire, l’IA, aussi nécessaire soit-elle en apparence, soulève résolument un problème de confiance dû à des questions d’acceptabilité, d’intelligibilité et d’éthique. Pour ce faire, nous adopterons ici un positionnement constructiviste et interprétatif. Cette communication aura pour objet de démontrer le caractère nécessaire, sinon inévitable de l’implémentation de l’IA au sein des nouvelles technologies sécuritaires. Nous analyserons également les risques inhérents à l’IA et à la sécurité. La création de cette culture de l’excellence amène aussi à s’interroger sur la dépendance aux résultats de ces technologies « augmentées ». Face à toutes ces interrogations, nous proposerons non seulement des éléments de réponse, mais également des solutions éthiques concernant les biais directs (comme les discriminations) et indirects (par exemple, le risque de crédit pour une catégorie sociale non prise en compte, déformant le résultat de l’analyse finale) ou la construction des algorithmes, avec la question de leur neutralité pour corriger un biais par un autre biais. Pour terminer, nous présenterons quelques solutions pour renforcer le trinôme IA/sécurité/confiance, notamment en nous référant au principe de l’ethic by design.
Fichier principal
Vignette du fichier
ACTE Lollia Fabrice sécurité IA et confiance.pdf (174.96 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-04099590 , version 1 (04-06-2023)

Identifiants

  • HAL Id : hal-04099590 , version 1

Citer

Fabrice Lollia. Sécurité, intelligence artificielle et confiance : impacts et solutions pour une meilleure implémentation au sein des organisations. Intelligence Artificielle et équité sociale, COMTECDEV - Chaire Unesco, May 2023, Pessac (Bordeaux), France. ⟨hal-04099590⟩
241 Consultations
136 Téléchargements

Partager

Gmail Facebook X LinkedIn More