Koter Info - La Gazette de LLN-WSL-UCL

Armes autonomes : des chercheurs en

Intelligence artificielle publient

une lettre ouverte

Un groupe mélangeant de nombreux chercheurs, scientifiques et personnalités publiques – parmi lesquels on trouve Stephen Hawking(i), Elon Musk(ii) ou encore Steve Wosniak(iii) – vient de publier une lettre ouverte contre le développement des armes dites « autonomes », c’est-à-dire ces armes qui utilisent l’intelligence artificielle et sont en mesure d’agir en dehors de tout contrôle humain.

Voici la traduction de cette lettre :

Les armes autonomes sélectionnent et affrontent leurs cibles sans aucune intervention humaine. Ces armes sont, par exemple, les quadricoptères armés capables d’identifier et d’éliminer les personnes sur la base de critères prédéfinis, mais elles ne recouvrent pas les armements tels que les missiles Cruise ou les drones pilotés à distance, pour lesquels c’est au final l’homme qui prend la décision de tirer.

La technologie de l’Intelligence artificielle a atteint un niveau tel qu’elle pourrait permettre de réaliser de tels systèmes – en termes pratiques, sinon légaux – en l’espace de quelques années, et non plus de quelques décennies. Le défi est énorme, puisque les armes autonomes ont été qualifiées de troisième révolution dans le domaine de la guerre, après la poudre et la bombe atomique. […]

Des arguments ont été avancés aussi bien en faveur que contre les armes autonomes. Par exemple, le fait de remplacer les soldats humains par des machines est positif dans le sens où il permet de réduire le nombre de victimes, mais il est négatif en cela qu’il abaisse le seuil menant à l’ouverture d’un conflit. La question cruciale pour l’humanité aujourd’hui est de savoir si elle permet le lancement d’une course globale aux armes autonomes, ou si elle stoppe cette course avant qu’elle ne commence. Si une grande puissance militaire pousse au développement des armes autonomes, la course globale à de tels armements deviendra inévitable, et la conclusion de ce parcours technologique est évidente : les armes autonomes deviendront les Kalashnikov de demain.

À la différence des armes nucléaires, ces armements ne requièrent pas de matériels particulièrement couteux ni difficiles à obtenir. Cela signifie qu’on en retrouvera partout et qu’elles seront peu chères à la production, pour n’importe quelle puissance militaire. Ce n’est donc qu’une question de temps avant de voir circuler ces armes au marché noir, puis entre les mains des terroristes, des dictateurs qui veulent garder leur peuple sous contrôle, des chefs de tribus décidés à mener une « purification ethnique », etc., etc.

Les armes autonomes sont aussi idéales pour assassiner quelqu’un, pour déstabiliser des nations, pour soumettre des populations, et pour éliminer de façon sélective un groupe ethnique en particulier. Par conséquent, nous pensons qu’une course au développement militaire des armes autonomes ne serait pas bénéfique pour l’humanité. Il y a quantité de façons d’utiliser l’IA pour rendre le champ de bataille plus sûr pour les êtres humains – surtout pour les civils – sans avoir besoin de créer de nouveaux outils pour tuer.

Tout comme les chimistes et les biologistes n’ont aucun intérêt à construire des armes chimiques ou biologiques, la majeure partie des chercheurs en Intelligence artificielle n’ont aucun intérêt à construire des armes autonomes, et ne veut pas voir salir la réputation de leur domaine de recherche, en créant une réaction négative du public qui pourrait impacter négativement les futurs bienfaits issus de l’Intelligence artificielle. De fait, les chimistes et les biologistes ont fortement soutenu les accords internationaux interdisant les armes chimiques et biologiques, tout comme la plupart des physiciens ont soutenu les traités interdisant les armes nucléaires dans l’espace et les armes aveuglantes à laser.

En conclusion, nous croyons que l’intelligence artificielle représente un formidable potentiel bénéfique pour l’humanité, et que le but ultime de ce domaine de recherches est précisément cela. Le fait de lancer une course aux armes autonomes serait une très mauvaise idée, et devrait être stoppé par l’interdiction de toute arme capable d’agir en dehors du contrôle humain.

Par RT, BBC - traduction : Christophe pour ilFattoQuotidiano.fr – le 30 juillet 2015

L’original de la lettre ouverte se trouve ici, avec la liste des signataires

Notes de la traduction :

1 Stephen Hawking, célèbre astrophysicien britannique

2 Elon Musk : le célèbre PDG du constructeur de voitures électriques Tesla et de SpaceX

3 Steve Wosniak, cofondateur d’Apple

>>> Lire aussi cet article paru dans Le Monde le 27.07.2015

Photo : rt.com/uk

Professeur Stephen Hawking :

Coloniser d’autres planètes

pour sauver l’espèce humaine

Le physicien Stephen Hawking, mondialement célèbre, a dit que l’humanité doit coloniser d’autres planètes afin d’assurer l’avenir de l’espèce. Il a répété qu’une agression armée pourrait mettre fin à la civilisation et que les voyages dans l’espace seraient le moyen de fournir un endroit où aller.

Tout en faisant un tour du Musée des sciences de Londres, en compagnie d’un visiteur états-unien, le physicien a dit que coloniser d’autres planètes pourrait être une assurance-vie pour tout ce qui resterait de l’espèce humaine, si elle existait encore à la suite d’une apocalypse nucléaire.

« Envoyer des hommes sur la Lune a changé l’avenir de l’espèce humaine d’une manière que nous ne comprenons pas encore », dit-il.

« Cela n’a pas résolu la totalité de nos problèmes immédiats sur la planète Terre, mais cela nous a donné de nouvelles perspectives et nous a permis de regarder à la fois vers l’extérieur et vers l’intérieur. »

« Je crois que l’avenir à long terme de l’espèce humaine doit être l’espace et que celui-ci représente un élément important de l’assurance-vie pour notre espèce, car il peut éviter la disparition de l’humanité en colonisant d’autres planètes », ajoute-t-il.

Ses remarques sont venues alors qu’il escortait Adaeze Uyanwah, de Palmdale, en Californie, dans le musée. Cette dernière avait remporté un prix après la production d’un blog et d’une vidéo décrivant un jour parfait dans la capitale.

Hawking a dit aussi que si c’était possible, il éradiquerait l’agressivité de la liste des défauts humains, soutenant qu’elle avait la capacité de mettre fin à l’humanité.

« Le défaut humain que je voudrais corriger le plus est l’agressivité. Cela a peut-être été un avantage assurant sa survie quand l’homme vivait dans des cavernes, pour obtenir plus de nourriture, un territoire ou un partenaire avec qui se reproduire, mais maintenant ce défaut menace de nous détruire tous. »

« Une guerre nucléaire serait la fin de la civilisation, et peut-être la fin de l’espèce humaine. »

Lorsqu’on lui a demandé quel aspect de l’homme il estimait le plus, il a répondu que c’était l’empathie.

« La qualité que je désire magnifier chez l’homme est l’empathie. Elle nous rassemble dans un cadre paisible et aimant », a dit Hawking.

Uyanwah, qui est enseignante et rédactrice, a dû se mesurer à des dizaines de milliers de participants pour remporter le prix.

Elle dit que l’occasion de rencontrer le professeur a été incroyable.

« C’est incroyable de penser que dans quelques décennies, quand mes petits-enfants apprendront les théories scientifiques de Stephen Hawking en classe, je pourrai leur dire que je l’ai rencontré personnellement et que j’ai pu entendre son point en de vue d’on ne peut plus près. C’est quelque chose que je n’oublierai jamais. »

Hawking a déjà émis d’autres sombres avertissements au sujet de l’avenir de l’espèce humaine. En décembre de l’année dernière, il a affirmé que l’intelligence artificielle pourrait marquer la fin de la civilisation.

Par rt.com/uk - traduit par Toma, relu par Diane et jj pour le Saker Francophone

À seulement 11 ans, elle intègre Harvard

Cette jeune Américaine ne s’est pas contentée de terminer major de sa promotion au lycée avec 6 ans d’avance. À tout juste 11 ans, elle va également intégrer la prestigieuse université de Harvard.

À 11 ans, cette jeune Américaine a déjà fini le lycée, major de sa promotion. Déjà un exploit en soi, mais cela ne s’arrête pas là : elle s’apprête à intégrer la prestigieuse université de Harvard. Au programme, rien que du très sérieux : Ria Chevuru, d’origine indienne, a choisi d’étudier la cryptographie et l’intelligence artificielle.

Interrogée quant à la différence d’âge qui la séparera de ses futurs camarades de classe, l’élève modèle répond sans sourciller ne pas la craindre : « Je veux juste échanger avec des personnes dotées de cerveaux comme le mien et partager avec eux mes pensées » explique-t-elle à une chaîne de télévision locale.

Sa mère, comme elle l’explique à ce même média, a su dès 9 mois que Ria était dotée d’un talent particulier. À l’âge de 7 ans, le directeur de l’école qu’elle fréquente conseille à sa famille de lui faire suivre des cours spécifiques et accélérés pour élève précoce, qui la conduisent petit à petit à ce destin hors norme, guidé par l’intérêt général.

« Nous ne sommes pas ici juste pour vivre et mourir, nous sommes là pour faire quelque chose pour le monde », a-t-elle déclaré lors de la remise des diplômes. « Je veux atteindre cet objectif et aider le monde. Je veux aider les autres ». Un bel objectif !

Par Figaro Etudiant – le 1er juin 2015.

Cette intelligence artificielle est si puissante

qu’elle est capable de vous reconnaître

sur n’importe quelle photo

Protéger sa vie privée sur Internet devient de plus en plus compliqué et le système de reconnaissance faciale DeepFace, propriété du réseau social Facebook, n’arrangera rien. Désormais capable de vous identifier sur n’importe quelle photo où vous apparaissez, il symbolise une avancée technologique qui en inquiète plus d’un. DGS vous en dit plus sur ce système qui fait débat.

Si vous apparaissez dans une photo lors d’un rassemblement public ou autre manifestation, seuls vos proches pourront vous reconnaître. Chose que ne pourra probablement pas faire une machine… du moins pour l’instant. À moins qu’un ordinateur ait été chargé de vous rechercher, qu’il dispose déjà d’une douzaine de photos de vous et qu’il ait une haute qualité d’image pour pouvoir les examiner, votre anonymat ne risque rien. Il n’est pas encore possible pour un ordinateur de parcourir l’ensemble des photos mises sur la toile et de vous retrouver. Mais dans le jardin fermé de Facebook, qui contient de loin la plus large panoplie de photos personnelles dans le monde, la technologie dispose de tout ce qu’elle souhaite pour s’épanouir.

Le système de Facebook « DeepFace » est aujourd’hui extrêmement précis et possède les outils nécessaires pour procéder à des reconnaissances faciales sans que la personne ne soit taguée. « L’objectif n’est pas de violer l’anonymat de 1,3 milliard d’utilisateurs de Facebook », explique Yann LeCun, scientifique à l’université de New York et directeur de la recherche en intelligence artificielle chez Facebook. « Le but est plutôt de le protéger. » Une fois que DeepFace identifie votre visage parmi les 400 millions de nouvelles photos mises en ligne chaque jour sur le site, « vous recevez une alerte de Facebook qui vous signale que vous apparaissez dans une photo », poursuit Yann LeCun. « Vous pouvez ensuite choisir de flouter votre visage sur l’image pour protéger votre anonymat. » Cependant, beaucoup de personnes sont loin d’être ravies à l’idée d’être identifiées sur toutes les photographies dans lesquelles elles apparaissent, et en particulier lorsque celles-ci sont mises en ligne par des inconnus. Mais Facebook utilise déjà ce système d’identification « automatique » bien que celui-ci ne vous révèle que l’identité de vos amis.

DeepFace n’est pas le seul cheval dans la course. Le gouvernement américain a également financé les recherches des universités ayant pour but de développer les technologies relatives à la reconnaissance faciale. Au sein du secteur privé, Google et d’autres entreprises ont développé leur projet d’identification automatique des individus dans les photos et vidéos.

Comment cette reconnaissance faciale automatique sera utilisée ? Et comment la loi pourra la limiter ? En réalité, la réponse demeure floue. Mais une fois que la technologie sera parfaitement mûre, elle provoquera sûrement autant de problèmes de confidentialité qu’elle n’en résoudra. « Le génie est, ou sera bientôt, sorti de sa lampe », affirme Brian Mennecke, un chercheur en système d’information qui étudie la confidentialité à l’université de l’Iowa.

La simple reconnaissance est facile pour un ordinateur, surtout s’il s’agit de comparer des objets aux caractéristiques communes comme des fleurs, des couvertures, des lampes… C’est le cas des visages qui disposent tous des mêmes caractéristiques ; les yeux, les oreilles, la bouche sont toujours dans la même position. Ce constat simplifie le calcul et le rend d’autant plus efficace de sorte que « nous sommes capables de détecter des visages sur environ deux décennies », ajoute LeCun. Les ordinateurs bon marché étaient déjà capables de détecter et de se concentrer sur un visage. En revanche, « identifier un visage est beaucoup plus complexe que de simplement le détecter », dit LeCun. Votre visage vous identifie de manière unique. Mais contrairement aux empreintes digitales, il est en constante évolution. Un simple sourire et voilà votre visage transformé. Le coin des yeux peut se rider et la forme du visage se déformer. Même si vous gardez la même expression, vos cheveux varient d’une photo à l’autre, surtout si vous revenez d’un rendez-vous chez le coiffeur ! Et pourtant la majorité des personnes peuvent vous identifier sans le moindre effort sur une série de photos, même si elles ne vous ont vu qu’une seule fois.

En termes de perception du monde qui nous entoure, la reconnaissance faciale peut être « la chose la plus impressionnante que puisse faire le cerveau humain », explique Erik Learned-Miller, scientifique à l’université du Massachusetts à Amherst. En revanche, les ordinateurs tentent de lutter contre ce que les chercheurs appellent le problème A-Pie en anglais. Il s’agit en fait du vieillissement, du type de pose, de l’éclairage et de l’expression. Ces différentes composantes tendent à masquer les différences subtiles qui permettent de distinguer une personne d’une autre.

Grâce au « deep learning », les ordinateurs gagnent rapidement du terrain. À l’aide d’une importante base de données, le deep learning permet de faire des miracles en termes de reconnaissance et de classification des données. Dans le cas présent, les données sont composées de multiples photographies. Learned-Miller a aidé à la création d’une telle bibliothèque aux allures de trombinoscope et de tabloïd. À ses débuts, elle était composée de 13 000 photographies provenant du Web et contenant les visages de 5749 célébrités, certaines apparaissant sur quelques photos seulement, d’autres sur des dizaines d’images. Gratuite et accessible à tous, cette bibliothèque appelée LFW (Labeled Faces in the Wild) est devenue la référence la plus populaire auprès des chercheurs qui formulent des algorithmes en vue de développer les technologies de reconnaissance faciale.

Pour un ordinateur, les visages ne sont rien de plus qu’un amoncellement de pixels plus ou moins clairs. Grâce à une série d’algorithmes, le système du « deep learning » commence par la comparaison des visages puis la détermination de leurs principales caractéristiques : les yeux et le nez par exemple. Pour Yaniv Taigman, ingénieur principal de DeepFace, il s’agit de « laisser parler la machine et les données ». Le système regroupe les pixels relatifs à un visage avec d’autres éléments tels que les bords qui définissent les contours. Plusieurs couches successives de traitements combinent ensuite d’autres éléments plus compliqués qui vont permettre de distinguer des différences précises entre les visages.

L’entrée pour chaque couche de traitement est la sortie de la couche sous-jacente. Le résultat final est la représentation d’un visage humain. La machine peut ainsi comparer les images et identifier celles qui correspondent à la même personne.

L’équipe de DeepFace a fait le buzz lorsqu’elle a décrit sa nouvelle machine dans un papier publié sur Facebook en mars dernier. Elle a notamment revendiqué la capacité de sa machine à identifier une même personne sur deux photographies différentes. L’équipe de DeepFace a rapporté un taux de précision de 97,5 %.

Beaucoup d’avantages de DeepFace proviennent de l’intelligence du programme. Par exemple, il surmonte une partie du problème A-Pie en prenant en compte la forme en 3D d’un visage. Si les photos montrent une personne de profil, le programme utilise le peu qu’il voit du visage pour le reconstruire dans son intégralité. Cela fait de DeepFace le système le plus efficace, et de loin. Taigman ajoute : « Nous sommes capables, grâce aux capacités du système, de nous concentrer sur les différences les plus subtiles. »

« La méthode est réalisée en une fraction de seconde sur un seul noyau informatique. » C’est tellement efficace que DeepFace peut fonctionner sur un smartphone. Les représentations que fournit DeepFace sont très compactes. En principe, une base de données composée de visages d’un milliard de personnes pourrait tenir sur une clé USB.

Mais l’avantage principal de DeepFace, qui est d’ailleurs celui qui a suscité le plus de rancoeur, est l’ensemble de ses données de formation. Dans son rapport de recherche, DeepFace a mentionné l’existence d’un ensemble de données appelé SFC pour Social Face Classification. Une bibliothèque de 4,4 millions de visages obtenue à partir des pages Facebook de 4030 utilisateurs. Bien que les utilisateurs donnent leur permission à Facebook d’utiliser leurs données personnelles lorsqu’ils signent la charte sur le site, le rapport de recherche ne fait aucune mention concernant le consentement des propriétaires de photos.

Dans l’un de ses articles, le Huffington Post qualifie DeepFace de « terrifiant ». En guise de commentaire à ce papier, l’un des lecteurs écrit : « Il est évident que la police et autres représentants de la loi utiliseront cette technologie et chercheront dans nos photos sans même que nous le sachions. » Facebook a confirmé que, par respect de l’application de la loi, le réseau social permettra aux représentants de la loi d’avoir accès aux données d’utilisateurs si la demande est faite à travers l’ordonnance d’un juge.

« Les gens sont terrifiés », explique Learned-Miller. Mais il croit que ces peurs n’ont pas lieu d’être : « Si une entreprise comme Facebook dépasse les limites, au-delà de ce qui est acceptable… elle pourra se retirer des affaires. Si l’entreprise ne respecte pas les lois, des gens de la société pourront être arrêtés. » Il estime que la suspicion ne tient qu’au manque de transparence. Alors que les chercheurs universitaires doivent obtenir le consentement explicite des personnes pour utiliser leurs données privées, un simple clic sur « Je suis d’accord » sur la licence de Facebook autorise l’entreprise à utiliser les données de ses utilisateurs. De tels contrats en ligne sont « l’antithèse de la transparence », ajoute Learned-Miller. « Personne ne sait vraiment à quoi s’attendre. » L’année dernière, l’entreprise a introduit un petit dinosaure de cartoon qui apparaissait à l’écran pour rappeler aux utilisateurs qu’ils pouvaient modifier leurs paramètres de confidentialité.

Il existe déjà un commerce de la vie privée, parfois légal, parfois illégal. Le marché de la reconnaissance faciale pourrait bientôt représenter un nouveau poids lourd dans la technologie moderne, comme le prédit Brian Mennecke. Par exemple, l’identification des visages pourrait permettre aux publicitaires de suivre votre profil, de connaître vos préférences, de répondre à vos demandes et même de proposer des prix différents en fonction de ce qu’ils savent sur vos habitudes de consommation. « Il s’agit de pouvoir vous observer dans la foule. Vous ne pouvez pas échapper à la reconnaissance faciale », poursuit Mennecke. FacialNetwork, une entreprise américaine, utilise son propre système de deep learning pour développer une application appelée « NameTag » qui identifie les visages avec un smartphone ou même avec des Google Glass. NameTag ne révèle pas uniquement le nom d’une personne, mais également tout ce qui peut être découvert à partir d’un réseau social, d’un site de rencontres, ou même de données criminelles. Toute trace d’un individu laissée sur le Web peut être retrouvée. Facebook a réagi rapidement pour éviter un scandale en envoyant une lettre à FacialNetwork pour leur demander d’arrêter la récolte et l’utilisation des données d’utilisateurs. « Nous ne fournissons pas ce type d’information à d’autres sociétés, et nous n’avons pas l’intention de le faire », explique un représentant de Facebook par mail.

Le potentiel commercial des applications de reconnaissance faciale est problématique selon Learned-Miller. Mais il s’inquiète davantage de l’éventuel comportement abusif dont pourraient faire preuve les gouvernements. « Je suis 100 % pro-Edward Snowden », ajoute-t-il en référence à l’ancien informaticien de la NSA (National Security Agency) qui a dévoilé l’espionnage du gouvernement américain en 2013, à travers la surveillance d’e-mails et l’enregistrement d’appels téléphoniques des citoyens américains. « Nous devons être vigilants. »

Le sentiment de Learned-Miller est frappant, compte tenu du fait qu’il est financé par le US Intelligence Advanced Research Projects Activity pour développer un nouveau projet de reconnaissance faciale appelé Janus. Peut-être est-ce une raison de plus de prendre son avertissement au sérieux.

Les outils de reconnaissance faciale sont loin de faire l’unanimité. Quand certains se réjouissent d’une avancée technologique moderne, d’autres dénoncent une atteinte à la vie privée et à la confidentialité.

Par Paul Louis - dailygeekshow.com – le 11 février 2015