"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

Extrait :
"L'astrophysicien britannique Stephen Hawking a averti que le développement de l'intelligence artificielle pourrait signifier la fin de l'humanité. Dans un entretien avec la BBC, le scientifique a déclaré que ce type de technologie pouvait évoluer rapidement et dépasser l'humanité, un scénario comparable à celui des films Terminator ou 2001, l'odyssée de l'espace, ou du roman Robopocalypse".
La suite ici :
http://www.20minutes.fr/sciences/1493427-20141203-stephen-hawking-intelligence-artificielle-pourrait-mettre-fin-race-humaine#xtor=RSS-176

L'hypothèse de la Singularity est connue depuis quelque temps (dès 1950 chez von Neumann), et a bonne presse dans certains milieux scientifiques.

Elle ne me semble pas dénuée de fondements.

Apprentis sorciers ! Et qui va trinquer, hein ? J'y tiens, moi, à la race humaine. Elle est certes à amender, mais comme ça ???

Vous avez vu 'Her' avec Joaquin Phoenix ?

Euh... SVP peut-on remplacer le mot "race" qui ne correspond à rien ici par "espèce"? (Les humains forment une seule et même espèce).

Merci d'avance...
K

Non. C'est dans le sujet ?

KinetteKinette a écrit:Euh... SVP peut-on remplacer le mot "race" qui ne correspond à rien ici par "espèce"? (Les humains forment une seule et même espèce).

Merci d'avance...
K

C'est le titre de l'article, hein, je le mets entre guillemets.

Celadon a écrit:Apprentis sorciers ! Et qui va trinquer, hein ? J'y tiens, moi, à la race humaine. Elle est certes à amender, mais comme ça ???

Il ne s'agit pas de savoir qui va trinquer.

Les amateurs de la Singularité ne posent pas l'idée que les IA affronteraient les humains. Ils estiment que le jour où les IA seront suffisamment sophistiquées pour produit une IA plus intelligente qu'elles-mêmes, les IA dépasseront les humains très rapidement, sans doute exponentiellement d'ailleurs. Les humains seront alors "dépassés" (Ce n'est pas absurde, mais cela ressemble à de la SF pour l'heure). Et pour eux, une espèce dépassée par une autre disparait d'elle-même, à plus ou moins long terme. Seul souci dans le raisonnement : envisager une espèce IA dont la présence suivrait les lois de l'évolution. Ce qui ne me semble pas acquis.

Dépassés. Ca doit se comprendre comment, pratiquement ? Soumis ? Ignorés ? Laminés ?

Celadon a écrit:Dépassés. Ca doit se comprendre comment, pratiquement ? Soumis ? Ignorés ? Laminés ?

Intellectuellement dépassés. Ce qui est lourd de conséquences.

Oui enfin Hawkins dit bien "The development of full artificial intelligence could spell the end of the human race", il ne parle pas d'un simple dépassement intellectuel.

Celadon a écrit:Dépassés. Ca doit se comprendre comment, pratiquement ? Soumis ? Ignorés ? Laminés ?

Les plus probables ?
Ignorés ou maternés.

Alors c'est du présent. Les adhérents de l'UMP sont intellectuellement dépassés depuis belle lurette. Tu me confirmes qu'ils vont disparaître d'eux-mêmes, naturellement ? fini Nadine Morano ? fini Ciotti ? fini Copé ?

Si c'est vrai je m'offre une bouteille de champ' et je trinque à ta santé !!!

Ah non, le potentiel comique de Morano est trop beau pour la voir disparaître

MrBrightside a écrit:Oui enfin Hawkins dit bien "The development of full artificial intelligence could spell the end of the human race", il ne parle pas d'un simple dépassement intellectuel.

Oui.
Imaginons que des IA soient capables de mieux faire que des humains en bien des domaines (exploration spatiale, médecine, production d'énergie, respect de l'environnement, sciences fondamentales, production de nourriture pour les humains, etc. , y compris les choses que ne nous sont pas envisageables, ou si peu, par exemple : les uplifted animals ?), les conséquences psychologiques, sociales, politiques, etc seraient énormes et je ne donnerais pas cher de l'espèce humaine à long terme.

Le maître, l'esclave, tout ça.

Encore une fois, ce n'est que de la science fiction.

Enfin si on extrapole dans ce sens, en quoi les IA auraient-elles besoin de médecine, de respecter l'environnement et toussa toussa ?

Les conséquences psychologiques, je ne suis pas si sûr... Quand on voit comme les gens sont déjà heureux d'être assistés par des machines 24/7, pas sur que d'être dépassé par des IA soit un gros trauma :/

Oui, si l'on arrive à mettre en place une intelligence artificielle (vraiment digne de ce nom) capable de s'améliorer et de produire d'autres intelligences artificielles, nous serons rapidement dépassés.
Il existe une littérature croissante sur ce sujet, fort intéressante, qui permet de nuancer l'affaire et de réfléchir aux risques éventuels et aux bénéfices de manière plus approfondie et moins catastrophique que ce que de nombreuses œuvres de science fiction nous inspirent.

Pour l'instant, on essaie d'émuler le fonctionnement neuronal de certains animaux "simples" (par rapport à nous) sur ce plan. Allons-nous être capables d'atteindre le niveau suffisant ? C'est tout à fait possible.

MrBrightside a écrit:Enfin si on extrapole dans ce sens, en quoi les IA auraient-elles besoin de médecine, de respecter l'environnement et toussa toussa ?

Les conséquences psychologiques, je ne suis pas si sûr... Quand on voit comme les gens sont déjà heureux d'être assistés par des machines 24/7, pas sur que d'être dépassé par des IA soit un gros trauma :/

Parce que les IA auraient pour fonction principale d'être des assistants de l'espèce humaine, bien sûr.
Et si les humains n'avaient plus besoin d'apprendre les sciences parce que les IA les dépasseraient toujours, toujours plus vite, s'ils n'avaient plus besoin de travailler parce que les IA les surpasseraient, s'ils n'avaient plus la possibilité de se donner des projets collectifs, parce que les IA les auraient toujours précédés ? non, je crois moi que l'espèce mourrait d'elle-même, d'ennui, de nonchalance, d'inaction, de vieillesse peut-être.

Mais quelle serait le "but" (où la fonction si tu préfères) des IA ? L'auto-amélioration perpétuelle ?

Ascagne a écrit:Oui, si l'on arrive à mettre en place une intelligence artificielle (vraiment digne de ce nom) capable de s'améliorer et de produire d'autres intelligences artificielles, nous serons rapidement dépassés.
Il existe une littérature croissante sur ce sujet, fort intéressante, qui permet de nuancer l'affaire et de réfléchir aux risques éventuels et aux bénéfices de manière plus approfondie et moins catastrophique que ce que de nombreuses œuvres de science fiction nous inspirent.

Oui.
L'un des enjeux de telles analyses d'hypothèses est d'observer ce qui pourrait se passer si nous restions passifs, et de prendre des décisions en vue de modifier le spectre des possibles en fonction de ce qui nous semble désirable.

MrBrightside a écrit:Mais quelle serait le "but" (où la fonction si tu préfères) IA ? L'auto-amélioration perpétuelle ?

Il est d'ors et déjà acquis qu'une IA serait multitâche. L'auto-amélioration perpétuelle fait partie, bien sûr, de ses fonctions : fonction organique d'optimisation des systèmes et de résilience aux aléas extérieurs.
Nous en sommes déjà là. L'auto-amélioration perpétuelle porte un nom : l'apprentissage et la prise de décision en fonction des acquis de l'apprentissage. Certaines machines virtuelles ont déjà ces capacités.

Pour info.

Non. C'est dans le sujet ?

Oui, pas d'erreur avec le fil ciné   mais dans la droite ligne des films avec des interactions humain/IA, avec l'humain en grand perdant.

Los Angeles, dans un futur proche. Theodore Twombly, un homme sensible au caractère complexe, est inconsolable suite à une rupture difficile. Il fait alors l'acquisition d'un programme informatique ultramoderne, capable de s'adapter à la personnalité de chaque utilisateur. En lançant le système, il fait la connaissance de 'Samantha', une voix féminine intelligente, intuitive et étonnamment drôle. Les besoins et les désirs de Samantha grandissent et évoluent, tout comme ceux de Theodore, et peu à peu, ils tombent amoureux…

(malgré la dernière info, ce n'est pas vraiment une bluette...)

Je crois que ce que je n'arrive pas à comprendre c'est ce que pourrait "vouloir" une intelligence pure et désincarnée. A part survire peut-être ?

Je rappelle aussi que l'entreprise Google investit toutes ses économies depuis des années pour accélérer la venue de cette singularité, selon deux axes (la singularité technologique liée aux IA, la singularité technologique liée à la recherche sur l'immortalité). Pourquoi deux axes ? parce que la firme postule que la solution est dans la convergence (IA/humanité) NBIC.

En d'autres termes, Google prend suffisamment au sérieux cette hypothèse, pour dépenser des dizaines de milliards de dollars pour viser à l'orienter vers une convergence homme/machine (comme solution à la peur de la Singularité).

De là à dire que ceux qui agitent les cauchemars de la Singularité agissent plus ou moins volontairement dans la même direction que les intérêts de Google, il n'y a qu'un pas.