Koter Info - La Gazette de LLN-WSL-UCL

Armes autonomes : des chercheurs en

Intelligence artificielle publient

une lettre ouverte

Un groupe mélangeant de nombreux chercheurs, scientifiques et personnalités publiques – parmi lesquels on trouve Stephen Hawking(i), Elon Musk(ii) ou encore Steve Wosniak(iii) – vient de publier une lettre ouverte contre le développement des armes dites « autonomes », c’est-à-dire ces armes qui utilisent l’intelligence artificielle et sont en mesure d’agir en dehors de tout contrôle humain.

Voici la traduction de cette lettre :

Les armes autonomes sélectionnent et affrontent leurs cibles sans aucune intervention humaine. Ces armes sont, par exemple, les quadricoptères armés capables d’identifier et d’éliminer les personnes sur la base de critères prédéfinis, mais elles ne recouvrent pas les armements tels que les missiles Cruise ou les drones pilotés à distance, pour lesquels c’est au final l’homme qui prend la décision de tirer.

La technologie de l’Intelligence artificielle a atteint un niveau tel qu’elle pourrait permettre de réaliser de tels systèmes – en termes pratiques, sinon légaux – en l’espace de quelques années, et non plus de quelques décennies. Le défi est énorme, puisque les armes autonomes ont été qualifiées de troisième révolution dans le domaine de la guerre, après la poudre et la bombe atomique. […]

Des arguments ont été avancés aussi bien en faveur que contre les armes autonomes. Par exemple, le fait de remplacer les soldats humains par des machines est positif dans le sens où il permet de réduire le nombre de victimes, mais il est négatif en cela qu’il abaisse le seuil menant à l’ouverture d’un conflit. La question cruciale pour l’humanité aujourd’hui est de savoir si elle permet le lancement d’une course globale aux armes autonomes, ou si elle stoppe cette course avant qu’elle ne commence. Si une grande puissance militaire pousse au développement des armes autonomes, la course globale à de tels armements deviendra inévitable, et la conclusion de ce parcours technologique est évidente : les armes autonomes deviendront les Kalashnikov de demain.

À la différence des armes nucléaires, ces armements ne requièrent pas de matériels particulièrement couteux ni difficiles à obtenir. Cela signifie qu’on en retrouvera partout et qu’elles seront peu chères à la production, pour n’importe quelle puissance militaire. Ce n’est donc qu’une question de temps avant de voir circuler ces armes au marché noir, puis entre les mains des terroristes, des dictateurs qui veulent garder leur peuple sous contrôle, des chefs de tribus décidés à mener une « purification ethnique », etc., etc.

Les armes autonomes sont aussi idéales pour assassiner quelqu’un, pour déstabiliser des nations, pour soumettre des populations, et pour éliminer de façon sélective un groupe ethnique en particulier. Par conséquent, nous pensons qu’une course au développement militaire des armes autonomes ne serait pas bénéfique pour l’humanité. Il y a quantité de façons d’utiliser l’IA pour rendre le champ de bataille plus sûr pour les êtres humains – surtout pour les civils – sans avoir besoin de créer de nouveaux outils pour tuer.

Tout comme les chimistes et les biologistes n’ont aucun intérêt à construire des armes chimiques ou biologiques, la majeure partie des chercheurs en Intelligence artificielle n’ont aucun intérêt à construire des armes autonomes, et ne veut pas voir salir la réputation de leur domaine de recherche, en créant une réaction négative du public qui pourrait impacter négativement les futurs bienfaits issus de l’Intelligence artificielle. De fait, les chimistes et les biologistes ont fortement soutenu les accords internationaux interdisant les armes chimiques et biologiques, tout comme la plupart des physiciens ont soutenu les traités interdisant les armes nucléaires dans l’espace et les armes aveuglantes à laser.

En conclusion, nous croyons que l’intelligence artificielle représente un formidable potentiel bénéfique pour l’humanité, et que le but ultime de ce domaine de recherches est précisément cela. Le fait de lancer une course aux armes autonomes serait une très mauvaise idée, et devrait être stoppé par l’interdiction de toute arme capable d’agir en dehors du contrôle humain.

Par RT, BBC - traduction : Christophe pour ilFattoQuotidiano.fr – le 30 juillet 2015

L’original de la lettre ouverte se trouve ici, avec la liste des signataires

Notes de la traduction :

1 Stephen Hawking, célèbre astrophysicien britannique

2 Elon Musk : le célèbre PDG du constructeur de voitures électriques Tesla et de SpaceX

3 Steve Wosniak, cofondateur d’Apple

>>> Lire aussi cet article paru dans Le Monde le 27.07.2015

Oser imaginer un monde meilleur :

l’UCL consacre une année aux utopies

Labellisée « Année Louvain des utopies pour le temps présent », elle verra fleurir de nombreux projets qui mobilisent toutes les couches de l’université.

En 1516, grâce à l’intervention d’Érasme, le juriste, humaniste et homme politique anglais, Thomas More, publiait, à Louvain, la première édition d’un petit livre qui allait connaître un destin mondial : « L’Utopie ».

Les universités catholiques de Louvain (UCL) et de Leuven (KULeuven) souhaitent commémorer dignement cet événement. D’abord comme le symbole d’une période exceptionnellement novatrice de l’histoire de ces deux universités et de l’histoire de l’Europe. Mais aussi comme une invitation à mettre en avant ce qui constitue, pour les professeurs et scientifiques aujourd’hui, plus que jamais une tâche essentielle : oser imaginer un monde meilleur, contribuer à le faire advenir et équiper nos étudiants pour qu’il puissent eux aussi y œuvrer.

Du côté de l’UCL, diverses activités sont déjà programmées. C’est ainsi que l’ensemble de l’année académique 2015-2016 sera placée sous le thème des utopies : il servira de fil rouge au programme culturel de l’UCL et présidera au choix de l’artiste en résidence, les utopies ouvriront aussi l’année académique, le 15 septembre 2015 et seront la guideline des prochains docteurs honoris causa de l’UCL. Le Conseil rectoral souhaite, par ailleurs, que l’ensemble de l’université profite de cette occasion pour se mobiliser au service de cette tâche, en combinant l’audace et l’esprit critique, en associant toutes les facultés et toutes les disciplines, les étudiants de tous les niveaux et le personnel de tous les sites et de toutes les catégories, en faisant ainsi de l’année académique 2015-2016 une « année Louvain des utopies pour le temps présent ».

Une telle entreprise ne peut réussir que si elle se construit bottom up, si elle stimule, fédère et appuie une multitude d’initiatives locales. Beaucoup d’entre elles s’inscriront dans un cadre préexistant — cycles de conférences, chaires, cours méta, semaines alternatives, kots à projet, soirées-débats, etc. — mais pourraient ainsi bénéficier de leur insertion dans une constellation d’activités partageant un même esprit. Cela sera aussi l’occasion de multiples contacts et collaborations au sein de la communauté universitaire et au-delà.

Philippe Van Parijs, responsable de la Chaire Hoover d’éthique économique et sociale de l’UCL, et Charles-Henri Nyns, bibliothécaire en chef de l’UCL, ont accepté de coordonner ce projet. Suite à un appel lancé à la communauté universitaire, une centaine de projets ont été reçus par les initiateurs en novembre 2014 : ils viennent d’étudiants, d’académiques, de chercheurs, de membres du personnel administratif. Ils exploreront le thème de l’utopie sur un mode historique, littéraire, artistique, scientifique, etc. Autant d’occasions d’établir des synergies entre l’UCL et le monde extérieur. 

Une centaine de projets

Suite à un appel lancé à la communauté universitaire, une centaine de projets ont été reçus par les initiateurs en novembre 2014 : ils viennent d’étudiants, d’académiques, de chercheurs, de membres du personnel administratif. Ils exploreront le thème de l’utopie sur un mode historique, littéraire, artistique, scientifique,… Autant d’occasions d’établir des synergies au sein de l’UCL et en dehors. 

Quelques projets phares :

• une série de trois NightShop sur le thème des Utopies au Théâtre National
• la publication d’un ouvrage aux Presses universitaires de Louvain reprenant des extraits de L’Utopie de Thomas More commentés par des auteurs/personnalités
• l’artiste en résidence à l’UCL travaillera sur le thème des Utopies 

En savoir plus : www.uclouvain.be/utopies 

Par l’Université catholique de Louvain – février 2015

Photo : crédits : Université de Portsmouth

Des chercheurs découvrent le matériau

naturel le plus solide au monde

Par Patricia Courand

La dent d’une patelle, ce gastéropode marin doté d’une coquille conique, est ni plus ni moins le matériau biologique le plus solide connu à ce jour, révèle une nouvelle étude.

Jusqu’ici, la soie d’araignée était considérée comme le matériau naturel le plus résistant au monde (lire « Des gilets pare-balles bientôt produits en soie d’araignée ? » sur le Figaro), plus solide que l’acier ou le kevlar. Mais la soie d’araignée vient d’être détrônée par un nouveau matériau biologique encore plus solide : les dents des patelles, ces gastéropodes marins dotés d’une coquille conique. Une découverte réalisée par des scientifiques britanniques de l’Université de Portsmouth.

De fait, la solidité de ses dents est précieuse pour la patelle : c’est grâce à ces dernières que la patelle peut « râper » efficacement la surface des rochers, afin d’en ôter les algues afin de se nourrir.

Pour parvenir à la conclusion que les dents de la patelle sont les structures biologiques les plus solides au monde, le professeur d’ingénierie Asa Barber (Université de Portsmouth. Royaume-Uni) et ses collègues ont analysé le comportement mécanique des dents de patelle à l’aide d’un microscope à force atomique, un outil permettant de visualiser la topographie de la surface d’un échantillon à l’échelle du nanomètre.

Au cours de ces travaux, ces scientifiques ont découvert le secret de la solidité des dents de la patelle : la présence en leur sein de goethite, un minéral qui se développe au fur et à mesure que la patelle grandit.

Cette découverte pourrait permettre la mise au point de nouveaux matériaux extrêmement résistants. En effet, en copiant la structure fibreuse des dents de patelles, il pourrait ainsi être possible de concevoir des structures très solides entrant dans la fabrication de voitures, d’avions ou encore de coques de bateaux.

Ces travaux ont été publiés le 18 février 2015 dans la revue Interface, sous le titre « Extreme strength observed in limpet teeth ».

Par Patricia Courand - journaldelascience.fr - le 19 février 2015

Photo : capture d'écran de la vidéo ci-dessous

Deux chercheurs parviennent à pirater

une voiture à distance

La vidéo publiée par le magazine Wired peut donner des sueurs froides aux conducteurs. Elle montre Andy Greenberg, journaliste spécialisé en nouvelles technologies, conduire une Jeep Cherokee (Chrysler) sur l’autoroute pendant que deux hackeurs piratent à distance les systèmes informatiques de son véhicule. Sous les yeux du conducteur impuissant, ils parviennent par exemple à allumer la radio, à monter le volume au maximum et à faire marcher les essuie-glaces. Bien plus grave : ils réussissent à couper le moteur, laissant le chauffeur incapable de redémarrer le véhicule.

Lors d’une seconde démonstration sur un parking, les deux experts en sécurité informatique Charlie Miller (ingénieur en sécurité chez Twitter) et Chris Valasek (chercheur spécialisé sur les véhicules pour une entreprise de sécurité informatique) prennent à nouveau le contrôle du véhicule, toujours depuis un ordinateur. Cette fois, ils parviennent à couper les freins de la Jeep, ce qui envoie la voiture dans un petit fossé. Dans certaines conditions, les deux chercheurs sont même capables de prendre la main sur le volant.

Avec ces démonstrations, les deux chercheurs comptent mettre l’accent sur les risques créés par la multiplication des outils informatiques connectés à Internet dans les voitures. Dans ce cas précis, Charlie Miller et Chris Valasek se sont appuyés sur le système Uconnect, « un ordinateur connecté à Internet présent dans des centaines de voitures Fiat Chrysler et camionnettes, qui contrôle la navigation et les outils multimédias du véhicule, permet de téléphoner et offre même un hot spot Wi-Fi », explique Wired.

Ils ont exploité une faille permettant d’entrer dans ce système, à condition de connaître l’adresse IP de la voiture et de passer par le réseau d’un opérateur mobile spécifique. Une fois dans Uconnect, les deux chercheurs ont trouvé le moyen d’accéder à d’autres systèmes informatiques du véhicule et de s’attaquer ensuite à ses mécanismes physiques comme les freins ou le moteur.

La majorité des Jeeps vulnérables « risquent de le rester »

Charlie Miller et Chris Valasek ont fait état de leurs recherches à Chrysler, avec qui ils échangent depuis neuf mois, indique Wired. Si Fiat Chrysler Automobiles n’a pas explicitement reconnu l’existence de la faille, elle ne l’a jamais niée et, surtout, le constructeur a mis à disposition de ses clients un patch de correction le 16 juillet. Le magazine indique cependant que la procédure nécessite d’utiliser une clé USB ou de se rendre chez un professionnel. « Cela signifie que beaucoup – si ce n’est la majorité – des Jeeps vulnérables risquent de le rester », affirme Andy Greenberg. Les chercheurs estiment aujourd’hui à 471 000 le nombre de véhicules concernés par la faille qu’ils ont découverte.

Les deux hackeurs comptent bientôt publier les résultats de leurs recherches, en prenant soin de ne pas publier certains aspects de leur travail afin d’éviter que des pirates malveillants ne s’en servent immédiatement. Une démarche qui inquiète Chrysler qui, à demi-mot, a confirmé les conclusions des chercheurs : « Chrysler ne tolère ni ne trouve appropriée dans aucune circonstance la diffusion d’un « guide » qui pourrait potentiellement encourager ou aider des pirates à prendre illégalement et sans accord le contrôle d’une voiture », a indiqué l’entreprise au magazine. Pour les deux chercheurs, cette découverte doit faire office d’avertissement pour les fabricants. « C’est peut-être le bug logiciel le plus susceptible de tuer quelqu’un », explique Charlie Miller.

Des constructeurs en retard

Lui et son collègue n’en sont pas à leur première démonstration. Les deux chercheurs avaient commencé à travailler sur les voitures connectées en 2012. L’année suivante, ils avaient fait une démonstration en se branchant sur le tableau de bord d’une voiture et en désactivant ses freins. En 2014, ils avaient passé au crible les manuels techniques de plusieurs véhicules et tenté de les classer du plus facilement piratable au mieux protégé. Parmi les plus vulnérables, on trouvait notamment la Jeep Cherokee mise à l’épreuve dans la dernière vidéo de Wired.

Aujourd’hui, les deux experts continuent de pointer du doigt les risques que doit affronter l’industrie automobile. L’an dernier, Chris Valasek s’inquiétait que les constructeurs ajoutaient régulièrement des nouveaux outils sans prendre en compte les risques pour la sécurité. « Les vulnérabilités que l’on trouve sont du genre de celles qui existaient sur PC du début au milieu des années 1990, quand les ordinateurs commençaient à se connecter à Internet », expliquait en 2013 le chercheur Stefan Savage, au magazine Forbes.

Le sujet inquiète en tout cas les autorités puisque, aux États-Unis, les sénateurs Ed Markey et Richard Blumenthal ont laissé entendre mardi qu’ils voulaient introduire une loi imposant de nouveaux standards de sécurité informatique aux constructeurs vendant des véhicules sur le territoire américain. « Les conducteurs ne devraient pas avoir à choisir entre être connectés et être protégés », a affirmé Ed Markey dans un communiqué envoyé à Wired.

Selon le cabinet IHS, 36 millions de voitures connectées sont actuellement en circulation, un chiffre qui pourrait dépasser les 150 millions d’ici à 2020. Les constructeurs annoncent les uns après les autres de nouvelles fonctionnalités, par exemple la transposition de son smartphone sur le tableau de bord de sa voiture. Et les géants du Web comme Apple et Google sont aussi entrés dans la danse et se battent pour installer leurs systèmes respectifs chez les constructeurs… Avant de proposer au marché leurs propres automobiles.

Lire aussi : La voiture connectée très convoitée

Par Florian Reynaud - lemonde.fr - le 22 juillet 2015

Photo : d’après le classement établi par des chercheurs de l’université de Cambridge, la Belgique est troisième derrière l’Arménie et la Hongrie sur le podium des champions de la malbouffe. AP

Malbouffe : la Belgique dans les pires pays

selon des chercheurs de Cambridge

D’après le classement établi par des chercheurs de l’université de Cambridge, la Belgique est troisième derrière l’Arménie et la Hongrie sur le podium des champions de la malbouffe.

La Belgique est le seul pays d’Europe occidentale à figurer dans le top 10 des pays dont la population se nourrit le moins sainement au monde. D’après le classement établi par des chercheurs de l’université de Cambridge, la Belgique est troisième derrière l’Arménie et la Hongrie sur le podium des champions de la malbouffe.

L’étude a été réalisée sous la direction du Dr Fumiaki Imamura et publiée dans le journal du Lancet Global Health.

Selon le document, les Tchadiens, qui consomment de nombreux fruits et légumes, sont les habitants de la planète qui se nourrissent le plus sainement, tandis que les Arméniens sont ceux dont les habitudes alimentaires sont les plus mauvaises.

L’étude révèle aussi que, dans le monde entier, les gens ont tendance à consommer de plus en plus de fruits et légumes. Cependant, le nombre de produits malsains ingérés est également en augmentation.

Pour arriver à ces conclusions, les chercheurs ont utilisé les données nationales de près de 90 % de la population mondiale entre 1990 et 2010. Ils ont ensuite établi trois régimes alimentaires de base. Le premier était composé de dix aliments sains (fruit, légumes, pois, noix, céréales, lait, acides gras polyinsaturés, poisson, oméga 3 et fibres). Le second consistait en sept aliments malsains (viande rouge crue, viande cuite, sodas, graisses saturées, huiles végétales, cholestérol et sodium). Le troisième combinait les aliments des deux premiers.

Sur cette base, ils ont attribué un score de 0 à 100 à chaque pays, le nombre le plus élevé se rapprochant du régime le plus sain.

L’étude montre que les populations aux revenus les plus élevés (États-Unis, Canada, Europe occidentale, Australie et Nouvelle-Zélande) consomment à la fois des aliments sains et des aliments plus mauvais.

Les pays d’Afrique subsaharienne et certaines nations asiatiques, dont la Chine et l’Inde, ont beaucoup progressé au cours des vingt dernières années. Mais les pays dont les habitants se nourrissent le plus sainement sont les pays les plus pauvres, comme le Tchad et le Mali.

Les pays qui consomment le plus de produits malsains sont, dans l’ordre, L’Arménie, la Hongrie, la Belgique, la République tchèque, le Kazakhstan, le Bélarus, l’Argentine, le Turkménistan, la Mongolie et la Slovaquie. Les pays de l’ex-URSS figurent également parmi les mauvais élèves.

Les pays qui se nourrissent le mieux sont le Tchad, la Sierra Leone, le Mali, la Gambie, l’Ouganda, le Ghana, la Côte d’Ivoire, le Sénégal, Israël et la Somalie.

En prenant en compte l’âge et le sexe, les chercheurs ont constaté que les personnes âgées se nourrissaient plus sainement que les jeunes et les femmes davantage que les hommes.

Selon le Dr Imamura, l’amélioration des habitudes alimentaires a un rôle crucial à jouer dans la lutte contre les maladies non transmissibles qui, en 2020, seront responsables de 75 % des décès.

Par lavenir.net (Belga) – le 20 février 2015

Qui n'a jamais ruiné une table ou une chemise en ouvrant une bière ?

Pour en finir avec ce problème, des chercheurs de l'UCL, se sont penchés sur la question découvrant la solution : la magie de l'aimant.

L'éruption de mousse dans la bière est en effet causée par des protéines appelées hydrophobines qui attirent les molécules de dioxyde de carbone. Or le surplus de molécules de dioxyde de carbone dans la bière peut causer l'éruption de mousse quand on l'ouvre.

Pour contrecarrer le travail de sape des hydrophobines, les chercheurs ont décidé d'utiliser des aimants après avoir remarqué que les champs magnétiques peuvent disperser certaines molécules.

Comme l'explique le site The Atlantic, les scientifiques ont donc placé de la bière de la brasserie Orval dans un tube en verre entouré d'un aimant. Résultat: le champs magnétique de ce dernier a le pouvoir de neutraliser les hydrophobines et donc les éruptions de mousse.

Une découverte qui intéressera peut-être les brasseries belges qui ajoutent en général du houblon. Cette plante permet aussi d'éviter le trop-plein de mousse mais a, en revanche, tendance à accentuer l'amertume de la bière.

Source : LaLibre.be