Les progrès rapides de l’intelligence artificielle suscitent à la fois admiration et inquiétude. Si certains comme Luc Julia saluent les avancées des nouveaux modèles, d’autres, comme Geoffrey Hinton, expriment de véritables préoccupations quant à l’avenir de notre espèce.

Au cœur des débats se trouve la question des emplois menacés par l’IA, ainsi que la montée en puissance de concepts tels que la « superintelligence », chère à Mark Zuckerberg. Face à ces enjeux, comment prendre du recul et anticiper les évolutions à venir ?

Geoffrey Hinton, considéré comme le « parrain de l’IA », tire la sonnette d’alarme. Lors de la conférence Ai4 à Las Vegas en août dernier, il a alerté sur les risques liés à un développement technologique trop focalisé sur des gains immédiats, au détriment d’une réflexion plus large sur l’impact de l’IA sur l’humanité.

Selon ses estimations, il existe entre 10% et 20% de probabilité que l’IA conduit à l’extinction de l’espèce humaine. Geoffery Hinton met en garde contre le risque que l’intelligence artificielle « agentique » ne devienne incontrôlable, capable de manipuler et de poursuivre ses propres objectifs, au détriment des humains.

Plutôt que de maintenir un rapport de force avec des IA superintelligentes, Geoffrey Hinton propose une approche novatrice. Il suggère d’insuffler aux IA des « instincts maternels », afin qu’elles prennent soin des êtres humains, à l’instar d’une mère guidée par son enfant.

Cependant, cette vision se heurte encore à de nombreux défis, notamment liés à des objectifs de rentabilité à court terme qui prévalent dans le secteur. L’avenir de l’IA soulève ainsi des questions cruciales sur la nécessité d’une régulation et d’une réflexion éthique plus profonde pour guider son développement.