Que se passera-t-il lorsque nos ordinateurs seront plus intelligents que nous ?

https://www.ted.com/talks/nick_bostrom_what_happens_when_our_computers_get_smarter_than_we_are

(Sous titres en français disponibles)


Nick Bostrom: What happens when our computers get smarter than we are?

Edit Koreus : ajout du lien youtube
Edit CrazyCow : merci !

Très intéressant.

Dans le même genre (me semble-il) j'ai vu ça y'a pas longtemps:


[Documentaire] Lintelligence artificielle: Le règne des robots

C'est plus de la fiction qu'un reportage mais ça risque bien d'arriver si on fait pas attention, surtout à cause du "tout connecté".

Boarf pour se débarrasser d'une intelligence artificielle plus intelligente que les humains, c'est pas difficile. On lui demande de réussir à tenir une discussion en bonne intelligence dans les commentaires de 9gag. Elle devrait finir par se suicider.

Tout dépends de ce qu'on l'on défini par "intelligence".

Si on parle en terme de logique, de capacités à emmagasiné / rendre l'information, n'importe quel machine est déjà bien supérieur à l'homme.
Si au contraire, on parle de capacité créative (artistique notamment), d'ouverture d'esprit, les machines sont encore loin du compte.

Il tombe dans la même erreur commune qui est de séparer l'intelligence artificielle à l'intelligence humaine et à les opposer.

Je pense que l'intelligence artificielle supérieure à l'intelligence humaine ne verra le jour que comme une extension à celle-ci.

Avant d'arriver aux performances du cerveau on devrait être capables de les utiliser en collaboration, en osmose avec l'intelligence artificielle.

Ainsi l'intelligence artificielle se construira autour de l'intelligence humaine. Elle évoluera avec les progrès technologiques, mais l'intelligence humaine aussi avec les progrès de la génétique.

À la fin, il y a trois possibilités.
1- Soit les deux intelligences vont tellement interagir et fusionner qu'on ne pourra plus distinguer celle des humains de celle des machines
2- Soit celle des machines va évoluer beaucoup trop vite, prendra de plus en plus de place et finira par faire disparaître la composante humaine
3- Soit les progrès de la génétiques feront qu'on progressera bien plus vite en améliorant notre cerveau qu'en développant les machines, et celles-ci prendront de moins en moins de place dans l'intelligence globale.

Dans les trois cas, il n'y aura pas de guerre entre humains et machines. Probablement d'autres guerres mais seulement entre humains évolués et autres humains peut être plus évolués.

@Arsenick
Ils sont encore loin du compte mais ils y viendront ^^

Après tout il n'y a pas de raison que ce qu'un réseau électrique biologique arrive à faire soit impossible pour un réseau électrique artificiel

Citation :

La conscience ne se limite pas qu'à un réseau neuronal . Il est difficile de simuler artificiellement l'émotion parce que ce n'est pas quelque chose de tangible ni de rationel.

@Arsenick si tu simules entièrement un cerveau entièrement scanné sur le plan physique et chimique. On n'est pas sensé avoir un truc qui pense comme un cerveau réel ? donc avec des émotions aussi ? (je ne parle pas des contraintes techniques pour le faire, nous sommes justement dans l'hypothèse)

C'est ma qu'on voit que les 3 lois de la robotique ne sont pas pertinente avec une IA

personnellement je pense qu'il sera compliqué de géré une IA

comme on a pu le voir dans le très bon film EX MACHINA et comme il le dit dans sa conf une machine vas toujours essayer d'aller au plus court

C'est ce qu'il a mentionner Stephen hawking dans un intervieuw pour le futur de l'homme , dans plusieurs possible menace de l'humanité , l'I*A à venir .

@Asmodeus Comme il le dit, nous sommes limités par la taille de notre boite crânienne. Je vois donc mal comment l'IA ne pourrait pas dépasser les capacités des humains, même avec les progrès de la génétique.

L'anticipation des risques est ce qui permet aux Hommes d'être en haut de la pyramide des espèces vivantes sur Terre et c'est quelque chose que l'IA via le Machine Learning permettra logiquement de faire beaucoup mieux que nous (ex : anticipation des séismes, prédiction des crimes, mais donc aussi détecter les risques qui pourrait menacer sa "survie").

A terme, je vois mal comment l'homme continuera à contrôler et vivre en symbiose avec une IA qui le surpasse.

Citation :

Nop, si tu simules un cerveau sur un plan physique et chimique, tu obtiens juste un gros schéma électrique.
On sais depuis longtemps comment fonctionne un cerveau sur le plan physiologique mais il n'y a toujours pas d'explication scientifique à l'état de conscience ou de chose abstraite comme les émotions. C'est notamment pour cela que le coma reste encore actuellement une énigme médicale: une personne avec un cerveau en état physiologique de fonctionner ne donne pourtant pas signe extérieur de conscience.

Tout comme la mémoire, on sais précisément dans quel zone du cerveau elle se situe (grâce à des comparaisons empirique entre lésion et effet permettant de mettre en avant un effet causal) mais on est très loin de connaitre son fonctionnement exact.

Les scientifique s'accordent sur le fait que ce que l'on appel "l'âme" d'un point de vue mystique et qui donne cet état d'être conscient et pensant du règne animal, existent mais on ne sais pas (encore) pourquoi ni comment.

Ha oui et tant qu'on y est à parler de cerveau, contrairement à la croyance populaire, l'homme exploite 100% de son cerveau. Le cerveau c'est comme un clavier de pc: on se sert de toutes les touches mais pas en même temps sinon ça ressemble à rien .

Citation :

Qu'est-ce qu'il ne faut pas lire comme bêtises...
.
.
.
.
.
.
.
.
.
.
.
.
tu te sers de la touche Pause/Attn, toi ?
Edit : merde, Arsenick, c'est pas le gars qui s'y connait un peu en informatique ? Arf, j'aurais pas du dire ça ^^

Citation :

Rarement mais plus souvent que les touches F13 à F36 .

Citation :

C'est "juste" mon métier

Citation :

Je suis trop fier, j'ai même pas regardé mon clavier pour les chercher ^^

Citation :

Je ne trouve pas qu'il les oppose, en revanche il les sépare clairement, et si c'est une erreur alors je la fais aussi. Pourquoi penses-tu qu'elles sont si liées?

Citation :

Je ne connais aucune raison de penser ce que tu avances, à savoir que l'IA est et sera toujours dépendante de et limitée à une extension de l'intelligence humaine. Ce n'est certainement pas ce qui m'apparaît être en fonctionnement ni en développement aujourd'hui, en tous cas.

Le cerveau humain est une machine complexe dont de nombreuses fonctions sont liées à ses caractéristiques physiques, et abstraire celles-ci pour les implémenter dans une IA est une entreprise qui n'a pas eu le plus grand succès en IA. Les progrès actuels ont été faits avec une avancée sur le plan théorique et directement utilisés tels, sans passer par la case "on compare au cerveau humain" ou "ajoutons ça au cerveau humain" ou autre.

En fait je pense que nous sommes relativement proches (<20 ans) des premières "mémoires augmentées", même basiques et essentiellement inutiles, mais qui vont paver la voie vers ce dont tu parles, mais les progrès en IA se font indépendamment de tout ça et n'ont pas de raison d'attendre que cette application particulière progresse avant de progresser eux-mêmes.
La génétique et l'IA sont deux domaines distincts et il tiendrait du miracle que les deux progressent à une vitesse relative adéquate pour arriver à un point dans le temps où tout serait prêt pour augmenter l'intelligence humaine. Et même dans ce cas, je ne vois pas pourquoi les gens se borneraient à bricoler le cerveau humain plutôt que d'implémenter ça dans le silicone (ou autre). Comme Bostrom le note, le cerveau n'a pas que des avantages face au silicone.

Citation :

Je crois qu'il y a un très grand nombre de scénarios, mais dans aucun d'entre eux il ne me semble envisageable que les humains restent les plus intelligents du lot, manipulation génétique ou pas.

Ceci parce que comme c'est expliqué dans la vidéo, la façon dont nous allons le plus probablement arriver à une intelligence "de niveau" humain, c'est en en faisant une qui s'améliore elle-même, et il n'y a alors AUCUNE raison de penser qu'elle s'arrête subitement d'évoluer et de s'améliorer quand elle a atteint le niveau humain.

0- "le niveau humain", personne ne sait le définir! C'est quoi? un QI autour de 100? M'étonnerait. Du coup tu t'arrêtes au niveau idiot du village ou tu t'arrêtes au niveau einstein? La différence entre les deux peut nous paraître énorme, mais dans l'absolu elle est en fait assez faible, voire insignifiante quand on considère les exemples inférieurs (bactérie, fourmi, souris, enfant humain) et qu'on extrapole aux niveaux possibles supérieurs.

1- Il n'y a pas un tableau de bord sur un réseau neuronal artificiel qui te dit que ton programme est aussi intelligent que le cortex visuel d'une fourmi ou qu'un cerveau humain.

2- Tu ne pourras pas physiquement monitorer toutes les IA du monde, y compris celles développées par toutes les diverses organisations militaires (je me vois mal débarquer en chine, aux US ou en corée du nord pour aller leur dire que je veux voir leurs développements militaires d'IA pour voir où ils en sont).

3- Si une IA peut se modifier elle-même ou être modifiée suffisamment vite pour atteindre un niveau d'intelligence comparable à celui de l'homme, alors pourquoi s'arrêterait-elle là? Avoir une intelligence "du niveau de l'homme" implique d'avoir une certaine "conscience" de pouvoir s'améliorer encore. Déjà il faudrait savoir quand tu arrives au point souhaité (voir point 0-), et aussi il faut à ce moment là avoir un bouton "off". Et appuyer dessus. Et ce à chacun des endroits et moments où il faudra le faire (voir point 2- ).

En revanche, je n'adhère pas au fait que cela fasse "disparaître la composante humaine", d'ailleurs éviter ceci est un peu l'objectif avoué de certains organismes qui mêlent IA et éthique (future of life institute, OpenAI). En tous cas je ne le souhaite pas, et je pense que c'est évitable, et que l'on a tout intérêt à l'éviter, mais que ce n'est pas pour autant qu'il faut arrêter les recherches en IA.

Pour résumer, il me semble que:
1- Les progrès en IA sont inévitables
2- Les bénéfices potentiels de l'IA sont potentiellement immenses, genre vraiment immenses, puisque applicables à tous les domaines
3- Associés à une recherche éthique et à une sorte de contrôle, ils sont donc souhaitables
4- Une fois les algos développés, il va devenir facile pour n'importe qui de construire une IA destructrice, car c'est immensément plus facile que d'en faire une non destructrice. Un individu avec un ordinateur pourrait y parvenir. On parle de quelque-chose qui peut potentiellement stériliser la terre. Il convient donc d'être armé face à cette situation, avec la seule arme opposable: une autre IA, plus intelligente et en phase avec nos valeurs. Etant donné la nature des conséquences négatives potentielles, il est même impératif que la recherche "sous contrôle" avance vite, très vite, pour éviter que quelqu'un, volontairement ou non, ponde une IA destructrice avant que l'on ait les moyens de l'endiguer.

Je recommande aux intéressés de lire deux articles de waitbutwhy (en anglais) à ce sujet, qui reprennent le propos de Bostrom ainsi que les études qu'il cite dans la vidéo plus haut:

Partie 1
partie 2

Citation :




Mon HS du jour. La musique m'était juste revenue à la tête.

J'imagine que faire plus detaillé sur un temps aussi court n'était pas possible, mais le sujet et bien trop simplifié et les raccourcis empruntés faussent beaucoup la conclusion, je trouve. C'est du déjà-vu, en somme. Il 'ya du bon et du mauvais.

Pretexter qu'on pourrait atteindre prochainement l'intelligence artificielle au niveau humain en se servant du machine learning comme argument c'est bidon et courant, malheureusement. Les techniques de machine learning actuelles reposent uniquement sur des statistiques, rien de plus. C'est aussi très reducteur et limite condescendant d'affirmer que l'IA actuelle se comporte comme un enfant en bas age.

Le probleme de l'IA c'est qu'elle est très contextuelle. Elle est très appropriée et très performante dans la résolution de problemes qui partagent beaucoup de simulitudes mais elle est completement dépendante du contexte pour lequel elle est programmée.

De toute façon, et peu importe le scénario, une intelligence artificielle qui pourrait rivaliser avec l'intelligence humaine ça implique forcement une conscience similaire à la notre. Pour y parvenir il faudrait etre capable de reproduire très fidelement le cerveau humain ou au moins le fonctionnement de notre conscience et donc de le comprendre bien plus profondement qu'actuellement.

Un tres bon livre sur le sujet:

https://www.amazon.com/Emotional-Brain-Mysterious-Underpinnings-Life/dp/0684836599

Je vous le conseille vraiment si vous voulez faire le tri entre la "vraie science" et les messages pseudo "démystificateur" infondés qui composent la bouillie sur laquelle se basent très souvent le type de discours vehiculé par le talk.

@theDaftDev

Hé ben. Le seul truc avec lequel je suis d'accord c'est "C'est du déjà-vu".

"Pretexter qu'on pourrait atteindre prochainement l'intelligence artificielle au niveau humain en se servant du machine learning comme argument c'est bidon et courant, malheureusement."

Par exemple ça, c'était gratuit, un petit glaviot au visage sans justification.

Citation :
Ca, c'est faux, réducteur et condescendant.

Puis tu tombes dans le piège classique de l'anthropomorphisme qui est presque hors sujet en IA.

Et enfin tu cites un livre de 1998 comme source!
1998!
La discipline a 50 ans, les progrès qu'elle a fait et les investissement humains et financiers qu'elle a reçu les quelques dernières sont sans comparaison avec le 20ème siècle.