vendredi 23 février 2024
Suivez-nous
Geoffrey Hinton, le "parrain de l'IA", quitte Google et met en garde contre les dangers de l'intelligence artificielle

L'expert en IA Geoffrey Hinton exprime ses inquiétudes concernant les mauvais usages et les risques de cette technologie en pleine expansion.


Geoffrey Hinton, surnommé le "parrain de l'IA", a récemment quitté son poste chez Google pour partager ses préoccupations sur les dangers potentiels de l'intelligence artificielle, une technologie qu'il a contribué à développer. Dans une interview accordée au New York Times le 1er mai, Hinton déclare : "Il est difficile de voir comment empêcher les mauvais acteurs de l'utiliser à mauvais escient."

Hinton, 75 ans, est surtout connu pour ses travaux sur l'apprentissage profond (deep learning) qui utilise des structures mathématiques appelées réseaux de neurones pour extraire des motifs à partir de vastes ensembles de données. Ses préoccupations principales concernent la désinformation et la manipulation de l'information rendues possibles grâce à l'IA.

Selon lui, la facilité d'utilisation de l'IA pour la génération de textes et d'images rend la création de contenu falsifié plus aisée. Hinton craint qu'à terme, il devienne difficile de distinguer le vrai du faux. Dans une interview avec la BBC, il souligne que "des systèmes comme GPT-4 surpassent déjà les humains en termes de connaissances générales et que leur capacité de raisonnement ne cesse de s'améliorer."

Malgré sa décision de quitter Google, Hinton estime que l'entreprise a agi de manière responsable en ce qui concerne son travail sur l'IA. Dans un tweet, il précise que son départ n'est pas motivé par des critiques envers Google, mais par sa volonté de parler librement des dangers de l'IA sans craindre d'impacter l'image de l'entreprise. "Je veux parler des problèmes de sécurité de l'IA sans avoir à m'inquiéter de la façon dont cela interagit avec les affaires de Google", déclare-t-il à MIT Technology Review.

Hinton rejoint ainsi une liste croissante d'experts partageant leurs inquiétudes sur l'évolution rapide de l'intelligence artificielle. Il admet dans l'interview avec le New York Times qu'il a longtemps cru que l'IA surpassant l'intelligence humaine était une perspective lointaine, mais que sa perception a changé. "Je pensais que c'était encore à 30 ou 50 ans, voire plus. Évidemment, je ne le pense plus", confie-t-il.

Jeff Dean, vice-président senior de la recherche et de l'IA chez Google, a déclaré dans un communiqué : "Geoff a réalisé des avancées fondamentales en IA, et nous apprécions sa décennie de contributions chez Google. Je vais le regretter et je lui souhaite bonne chance ! En tant que l'une des premières entreprises à publier des principes d'IA, nous restons engagés dans une approche responsable de l'IA. Nous cherchons continuellement à comprendre les risques émergents tout en innovant audacieusement."

Geoffrey Hinton s'ajoute ainsi à un groupe croissant de technologues qui expriment publiquement leurs préoccupations quant au développement effréné et à la mise en œuvre de l'intelligence artificielle.

Les dangers potentiels soulevés par ces experts incluent la surveillance généralisée, la prise de décision automatisée biaisée et l'éventuelle perte de contrôle sur des systèmes intelligents. Face à ces enjeux, Hinton appelle à la mise en place de régulations et de mécanismes de contrôle pour encadrer l'utilisation de l'IA, afin de prévenir les abus et de garantir la sécurité de la population.

Lorsqu'on lui demande si l'IA pourrait un jour chercher à éliminer l'humanité, Hinton répond à CBS News : "Ce n'est pas inconcevable. C'est tout ce que je dirai."

Le départ de Hinton de Google et ses avertissements sur les dangers de l'intelligence artificielle soulignent l'importance croissante des débats éthiques et des régulations autour de cette technologie. Alors que les entreprises et les chercheurs continuent de repousser les limites de l'IA, la nécessité d'un dialogue ouvert et d'une réflexion approfondie sur les implications sociétales et environnementales de cette révolution technologique devient de plus en plus évidente.

En conclusion, le cas de Geoffrey Hinton montre que même les pionniers de l'intelligence artificielle sont conscients des risques potentiels liés à leur propre création. Pour minimiser ces dangers, il est crucial d'adopter une approche responsable, collaborative et transparente dans le développement et l'application de l'IA, en tenant compte des préoccupations éthiques et en plaçant l'intérêt général au cœur de toutes les décisions.


Sources:

NBC news, CBS news, NowThis news, The new york times, Le monde.