Voir le sujet précédentAller en basVoir le sujet suivant
JPhMM
Demi-dieu

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM Mer 3 Déc 2014 - 14:07
Je rappelle aussi que l'entreprise Google investit toutes ses économies depuis des années pour accélérer la venue de cette singularité, selon deux axes (la singularité technologique liée aux IA, la singularité technologique liée à la recherche sur l'immortalité). Pourquoi deux axes ? parce que la firme postule que la solution est dans la convergence (IA/humanité) NBIC.

En d'autres termes, Google prend suffisamment au sérieux cette hypothèse, pour dépenser des dizaines de milliards de dollars pour viser à l'orienter vers une convergence homme/machine (comme solution à la peur de la Singularité).

De là à dire que ceux qui agitent les cauchemars de la Singularité agissent plus ou moins volontairement dans la même direction que les intérêts de Google, il n'y a qu'un pas.
JPhMM
JPhMM
Demi-dieu

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM Mer 3 Déc 2014 - 14:08
MrBrightside a écrit:Je crois que ce que je n'arrive pas à comprendre c'est ce que pourrait "vouloir" une intelligence pure et désincarnée. A part survire peut-être ?
Désincarnée ? non.
Ce qu'elle voudrait : probablement la connaissance.

Mais nous tombons dans une question relative à l'hypothèse de la Singularité : sommes-nous en mesure de savoir ce que voudrait une intelligence qui est supérieure à la nôtre ?

_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke

Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
Celadon
Celadon
Demi-dieu

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Celadon Mer 3 Déc 2014 - 14:34
"Le maître, l'esclave, tout ça."
Il y a pire, dans les relations : le maître, l'animal non domestique, de boucherie, etc. Et si nous devenions les animaux (traités comme nous traitons les nôtres actuellement) des nouveaux maîtres ? Mais je m'égare. Pour cela il faudrait que l'IA soit moins intelligente que l'humain. Et là je ne vois pas l'intérêt. Ni même la possibilité objective.
Anaxagore
Anaxagore
Guide spirituel

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Anaxagore Mer 3 Déc 2014 - 14:41
JPhMM a écrit:
MrBrightside a écrit:Je crois que ce que je n'arrive pas à comprendre c'est ce que pourrait "vouloir" une intelligence pure et désincarnée. A part survire peut-être ?
Désincarnée ? non.
Ce qu'elle voudrait : probablement la connaissance.

Mais nous tombons dans une question relative à l'hypothèse de la Singularité : sommes-nous en mesure de savoir ce que voudrait une intelligence qui est supérieure à la nôtre ?

Ghost in the shell?
avatar
Normandyx
Neoprof expérimenté

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Normandyx Mer 3 Déc 2014 - 14:45
Intelligence artificielle, connerie naturelle, je ne suis pas certain que l'intelligence ait toujours le dessus
JPhMM
JPhMM
Demi-dieu

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM Mer 3 Déc 2014 - 14:47
Anaxagore a écrit:
JPhMM a écrit:
MrBrightside a écrit:Je crois que ce que je n'arrive pas à comprendre c'est ce que pourrait "vouloir" une intelligence pure et désincarnée. A part survire peut-être ?
Désincarnée ? non.
Ce qu'elle voudrait : probablement la connaissance.

Mais nous tombons dans une question relative à l'hypothèse de la Singularité : sommes-nous en mesure de savoir ce que voudrait une intelligence qui est supérieure à la nôtre ?

Ghost in the shell?
Arthur Koestler ?

Razz

_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke

Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
JPhMM
JPhMM
Demi-dieu

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM Mer 3 Déc 2014 - 14:48
Normandyx a écrit:Intelligence artificielle, connerie naturelle, je ne suis pas certain que l'intelligence ait toujours le dessus
D'autant que l'intelligence artificielle me semble plus facile techniquement à atteindre que la volonté artificielle, voire l'autodétermination artificielle.

_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke

Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
Sphinx
Sphinx
Prophète

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Sphinx Mer 3 Déc 2014 - 14:48
Oh, pfff, encore ce trip à la mode de la singularité. Faites attention avec ça tout de même : les gens aiment à se faire peur et à croire en des intelligences supérieures, et il y a des sectes aux Etats-Unis qui vivent de ça. (Oui oui, on peut vous soutirer de l'argent en vous promettant la survie après l'avènement de la singularité).

_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather
"- Alors, Obélix, l'Helvétie c'est comment ? - Plat."


"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Livre11
Anaxagore
Anaxagore
Guide spirituel

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Anaxagore Mer 3 Déc 2014 - 14:52
D'ailleurs ces jours-ci j'ai vu et entendu un paquet de choses assez singulières. C'est un signe. professeur

_________________
"De même que notre esprit devient plus fort grâce à la communication avec les esprits vigoureux et raisonnables, de même on ne peut pas dire combien il s'abâtardit par le commerce continuel et la fréquentation que nous avons des esprits bas et maladifs." Montaigne

"Woland fit un signe de la main, et Jérusalem s'éteignit."

"On déclame contre les passions sans songer que c'est à leur flambeau que la philosophie allume le sien." Sade
JPhMM
JPhMM
Demi-dieu

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM Mer 3 Déc 2014 - 14:52
Sphinx a écrit:Oh, pfff, encore ce trip à la mode de la singularité. Faites attention avec ça tout de même : les gens aiment à se faire peur et à croire en des intelligences supérieures, et il y a des sectes aux Etats-Unis qui vivent de ça. (Oui oui, on peut vous soutirer de l'argent en vous promettant la survie après l'avènement de la singularité).

JPhMM a écrit:De là à dire que ceux qui agitent les cauchemars de la Singularité agissent plus ou moins volontairement dans la même direction que les intérêts de Google, il n'y a qu'un pas.

Cependant, et si ce n'était qu'une question de temps ? Plus j'y pense, moins je ne conçois de raison objective pour qu'un jour (fût-il très lointain) elle ne survienne pas.

_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke

Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
Sphinx
Sphinx
Prophète

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Sphinx Mer 3 Déc 2014 - 14:55
Ce qui n'est pas une raison pour se laisser soutirer des sous par un gourou malfaisant qui prétend faire de la recherche pour faire arriver l'IA gentille avant l'IA méchante.

_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather
"- Alors, Obélix, l'Helvétie c'est comment ? - Plat."


"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Livre11
JPhMM
JPhMM
Demi-dieu

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM Mer 3 Déc 2014 - 15:01
Sphinx a écrit:Ce qui n'est pas une raison pour se laisser soutirer des sous par un gourou malfaisant qui prétend faire de la recherche pour faire arriver l'IA gentille avant l'IA méchante.
Évidemment. Qui a dit le contraire ?

_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke

Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
Sphinx
Sphinx
Prophète

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Sphinx Mer 3 Déc 2014 - 15:03
Personne, mais je préfère prévenir Wink

_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather
"- Alors, Obélix, l'Helvétie c'est comment ? - Plat."


"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Livre11
pmuller
pmuller
Habitué du forum

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par pmuller Mer 3 Déc 2014 - 15:05
Elle devrait surtout mettre fin à l'intelligence tout court.
linkus
linkus
Neoprof expérimenté

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par linkus Mer 3 Déc 2014 - 15:15
Pendant un seconde, je me suis demandé pourquoi vous parlez d'inspecteur académique.

_________________
J'entends souvent dire qu'avec l'agrégation, c'est travailler moins pour gagner plus. En réalité, avec le CAPES c'est travailler plus pour gagner moins. professeur
"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 302509
Avec un travail acharné, même un raté peut battre un génie. Rock Lee
Je ne suis pas gros, j'ai une ossature lourde!
Vous aimez Bomberman? Venez jouer à Bombermine. Very Happy
Sphinx
Sphinx
Prophète

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Sphinx Mer 3 Déc 2014 - 15:17
Ben, il y en a aussi qui essaient de mettre fin à l'intelligence de la race humaine.

_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather
"- Alors, Obélix, l'Helvétie c'est comment ? - Plat."


"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Livre11
avatar
User17706
Bon génie

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par User17706 Mer 3 Déc 2014 - 15:19
linkus a écrit:Pendant un seconde, je me suis demandé pourquoi vous parlez d'inspecteur académique.
C'est bien ça. Nous, nous sommes des IPR (Intelligences à Potentiel Restreint).
JPhMM
JPhMM
Demi-dieu

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM Mer 3 Déc 2014 - 15:21
Sphinx a écrit:Personne, mais je préfère prévenir Wink
Il est en effet tentant pour certains de voir dans ces possibles futures IA des formes de divinités technologiques. L'aspect religieux n'est pas à exclure donc.

_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke

Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
pmuller
pmuller
Habitué du forum

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par pmuller Mer 3 Déc 2014 - 15:35
linkus a écrit:Pendant un seconde, je me suis demandé pourquoi vous parlez d'inspecteur académique.

Oui, vu que cela n'existe plus... ?
Celadon
Celadon
Demi-dieu

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Celadon Ven 5 Déc 2014 - 23:13
Ce qu'écrit Hawking m'a tellement remuée que j'ai regardé le 1er Terminator qui passait ce soir sur un canal quelconque alors que je suis résolument réfractaire à ce genre de films. C'est dire... Suspect
Ascagne
Ascagne
Grand sage

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Ascagne Sam 6 Déc 2014 - 1:34
Cela me fait penser au prochain Terminator... La série télévisée était plus intéressante que les films récents de la saga... Dans le domaine qui nous concerne, il y a des pistes plus intéressantes que les Terminator : Matrix, par exemple qui présente avec l'Architecte le cas d'une IA hyper rationnelle, mathématique et logique ; avec l'Oracle et quelques autres personnages, des IA qui se rapprochent de l'humain ; avec les machines dans le "monde réel" un exemple d'asservissement de l'humanité par des robots supérieurs.
C'est un détail dans les films, mais le ciel noir du monde réel dû à l'Operation Dark Storm est une très bonne mauvaise idée des humains pour essayer de vaincre les machines, dépendant à l'origine essentiellement de la lumière solaire : envoyer des nano-robots autorépliquants former des nuages infranchissables au-dessus du territoire des machines. Évidemment les machines trouvent des sources d'énergie alternatives, notamment les humains, tandis que les nuages artificiels, s'engendrant exponentiellement, recouvrent la planète, la rendant presque inhabitable à la vie organique en surface...
A mon avis, le risque que poseraient des IA supérieures et robotisées relèverait plus de problématiques comparables à celles de ces nano-robots de Matrix que du topos de Skynet qui lance toutes les ogives nucléaires une fois mis en route. Le danger pourrait provenir non pas d'une intention maligne (du moins de notre point de vue) ou neutre mais d'une volonté de bien faire.
Le fait est qu'il n'y aurait plus guère de commune mesure entre nous et des IA de ce genre une fois qu'elles auraient atteint ce niveau : les notions de limitation et de limites prennent un autre sens avec elles, dans un futur lointain.

Mais il n'y a pas besoin de se placer dans le futur lointain pour considérer les problèmes posés par l'intelligence artificielle - robotisée ou non (mais ayant prise sur le monde informatique - ah, la dépendance aux machines...). Du côté de la robotique, le robot n'a pas besoin d'être très intelligent pour poser des problèmes, par exemple.

Puisque j'évoquais la science-fiction : dans la série Stargate Universe (troisième des séries Stargate, d'un ton plus sérieux que ses prédécesseurs), l'équipage du Destiny
Spoiler:
Celadon
Celadon
Demi-dieu

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Celadon Sam 6 Déc 2014 - 9:24
Quand je pense que tous ces films me sont restés parfaitement étrangers justement parce que je les prenais pour des élucubrations destinées à un public intellectuellement impubère... pale
avatar
User21714
Expert spécialisé

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par User21714 Sam 6 Déc 2014 - 10:10


1 -Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.

2 - Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.

3 -Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.

Les 3 lois édictées par Asimov ne suffiraient-elles pas à contrôler les Intelligences Artificielles?
nicolin
nicolin
Niveau 5

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par nicolin Sam 6 Déc 2014 - 10:43
Le problème majeur posé à une IA restera le même que celui qui est posé aux humains : le désir, n'est-ce pas ?
La seule différence, c'est qu'en ce qui nous concerne, c'est : lequel ?
Pour l'IA, l'existence même du désir.

(je précise que je n'ai pas lu Guattari)

_________________
http://audioblog.arteradio.com/blog/patchworks/
Celadon
Celadon
Demi-dieu

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Celadon Sam 6 Déc 2014 - 14:00
Ben on dirait, pourtant...
Républicain, on se rassure comme on peut.
Sphinx
Sphinx
Prophète

"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Empty Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Sphinx Sam 6 Déc 2014 - 18:33
Celadon a écrit:Quand je pense que tous ces films me sont restés parfaitement étrangers justement parce que je les prenais pour des élucubrations destinées à un public intellectuellement impubère... pale

Sans aller jusque là (je ne les ai pas vus), il est évident que ces histoires relèvent de la pure fiction. Ils sont farcis de robots méchants, ambitieux, avides de pouvoir... etc : bref, imparfaits et fonctionnant à l'irrationnel. Humains, quoi. Quant au robot qui voyage dans le temps dans Terminator, faut peut-être pas pousser Razz

_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather
"- Alors, Obélix, l'Helvétie c'est comment ? - Plat."


"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking - Page 2 Livre11
Voir le sujet précédentRevenir en hautVoir le sujet suivant
Permission de ce forum:
Vous ne pouvez pas répondre aux sujets dans ce forum