- JPhMMDemi-dieu
Je rappelle aussi que l'entreprise Google investit toutes ses économies depuis des années pour accélérer la venue de cette singularité, selon deux axes (la singularité technologique liée aux IA, la singularité technologique liée à la recherche sur l'immortalité). Pourquoi deux axes ? parce que la firme postule que la solution est dans la convergence (IA/humanité) NBIC.
En d'autres termes, Google prend suffisamment au sérieux cette hypothèse, pour dépenser des dizaines de milliards de dollars pour viser à l'orienter vers une convergence homme/machine (comme solution à la peur de la Singularité).
De là à dire que ceux qui agitent les cauchemars de la Singularité agissent plus ou moins volontairement dans la même direction que les intérêts de Google, il n'y a qu'un pas.
En d'autres termes, Google prend suffisamment au sérieux cette hypothèse, pour dépenser des dizaines de milliards de dollars pour viser à l'orienter vers une convergence homme/machine (comme solution à la peur de la Singularité).
De là à dire que ceux qui agitent les cauchemars de la Singularité agissent plus ou moins volontairement dans la même direction que les intérêts de Google, il n'y a qu'un pas.
- JPhMMDemi-dieu
Désincarnée ? non.MrBrightside a écrit:Je crois que ce que je n'arrive pas à comprendre c'est ce que pourrait "vouloir" une intelligence pure et désincarnée. A part survire peut-être ?
Ce qu'elle voudrait : probablement la connaissance.
Mais nous tombons dans une question relative à l'hypothèse de la Singularité : sommes-nous en mesure de savoir ce que voudrait une intelligence qui est supérieure à la nôtre ?
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- CeladonDemi-dieu
"Le maître, l'esclave, tout ça."
Il y a pire, dans les relations : le maître, l'animal non domestique, de boucherie, etc. Et si nous devenions les animaux (traités comme nous traitons les nôtres actuellement) des nouveaux maîtres ? Mais je m'égare. Pour cela il faudrait que l'IA soit moins intelligente que l'humain. Et là je ne vois pas l'intérêt. Ni même la possibilité objective.
Il y a pire, dans les relations : le maître, l'animal non domestique, de boucherie, etc. Et si nous devenions les animaux (traités comme nous traitons les nôtres actuellement) des nouveaux maîtres ? Mais je m'égare. Pour cela il faudrait que l'IA soit moins intelligente que l'humain. Et là je ne vois pas l'intérêt. Ni même la possibilité objective.
- AnaxagoreGuide spirituel
JPhMM a écrit:Désincarnée ? non.MrBrightside a écrit:Je crois que ce que je n'arrive pas à comprendre c'est ce que pourrait "vouloir" une intelligence pure et désincarnée. A part survire peut-être ?
Ce qu'elle voudrait : probablement la connaissance.
Mais nous tombons dans une question relative à l'hypothèse de la Singularité : sommes-nous en mesure de savoir ce que voudrait une intelligence qui est supérieure à la nôtre ?
Ghost in the shell?
- NormandyxNeoprof expérimenté
Intelligence artificielle, connerie naturelle, je ne suis pas certain que l'intelligence ait toujours le dessus
- JPhMMDemi-dieu
Arthur Koestler ?Anaxagore a écrit:JPhMM a écrit:Désincarnée ? non.MrBrightside a écrit:Je crois que ce que je n'arrive pas à comprendre c'est ce que pourrait "vouloir" une intelligence pure et désincarnée. A part survire peut-être ?
Ce qu'elle voudrait : probablement la connaissance.
Mais nous tombons dans une question relative à l'hypothèse de la Singularité : sommes-nous en mesure de savoir ce que voudrait une intelligence qui est supérieure à la nôtre ?
Ghost in the shell?
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- JPhMMDemi-dieu
D'autant que l'intelligence artificielle me semble plus facile techniquement à atteindre que la volonté artificielle, voire l'autodétermination artificielle.Normandyx a écrit:Intelligence artificielle, connerie naturelle, je ne suis pas certain que l'intelligence ait toujours le dessus
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- SphinxProphète
Oh, pfff, encore ce trip à la mode de la singularité. Faites attention avec ça tout de même : les gens aiment à se faire peur et à croire en des intelligences supérieures, et il y a des sectes aux Etats-Unis qui vivent de ça. (Oui oui, on peut vous soutirer de l'argent en vous promettant la survie après l'avènement de la singularité).
_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather
"- Alors, Obélix, l'Helvétie c'est comment ? - Plat."
- AnaxagoreGuide spirituel
D'ailleurs ces jours-ci j'ai vu et entendu un paquet de choses assez singulières. C'est un signe.
_________________
"De même que notre esprit devient plus fort grâce à la communication avec les esprits vigoureux et raisonnables, de même on ne peut pas dire combien il s'abâtardit par le commerce continuel et la fréquentation que nous avons des esprits bas et maladifs." Montaigne
"Woland fit un signe de la main, et Jérusalem s'éteignit."
"On déclame contre les passions sans songer que c'est à leur flambeau que la philosophie allume le sien." Sade
- JPhMMDemi-dieu
Sphinx a écrit:Oh, pfff, encore ce trip à la mode de la singularité. Faites attention avec ça tout de même : les gens aiment à se faire peur et à croire en des intelligences supérieures, et il y a des sectes aux Etats-Unis qui vivent de ça. (Oui oui, on peut vous soutirer de l'argent en vous promettant la survie après l'avènement de la singularité).
JPhMM a écrit:De là à dire que ceux qui agitent les cauchemars de la Singularité agissent plus ou moins volontairement dans la même direction que les intérêts de Google, il n'y a qu'un pas.
Cependant, et si ce n'était qu'une question de temps ? Plus j'y pense, moins je ne conçois de raison objective pour qu'un jour (fût-il très lointain) elle ne survienne pas.
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- SphinxProphète
Ce qui n'est pas une raison pour se laisser soutirer des sous par un gourou malfaisant qui prétend faire de la recherche pour faire arriver l'IA gentille avant l'IA méchante.
_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather
"- Alors, Obélix, l'Helvétie c'est comment ? - Plat."
- JPhMMDemi-dieu
Évidemment. Qui a dit le contraire ?Sphinx a écrit:Ce qui n'est pas une raison pour se laisser soutirer des sous par un gourou malfaisant qui prétend faire de la recherche pour faire arriver l'IA gentille avant l'IA méchante.
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- SphinxProphète
Personne, mais je préfère prévenir
_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather
"- Alors, Obélix, l'Helvétie c'est comment ? - Plat."
- pmullerHabitué du forum
Elle devrait surtout mettre fin à l'intelligence tout court.
- linkusNeoprof expérimenté
Pendant un seconde, je me suis demandé pourquoi vous parlez d'inspecteur académique.
_________________
J'entends souvent dire qu'avec l'agrégation, c'est travailler moins pour gagner plus. En réalité, avec le CAPES c'est travailler plus pour gagner moins.
Avec un travail acharné, même un raté peut battre un génie. Rock Lee
Je ne suis pas gros, j'ai une ossature lourde!
Vous aimez Bomberman? Venez jouer à Bombermine.
- SphinxProphète
Ben, il y en a aussi qui essaient de mettre fin à l'intelligence de la race humaine.
_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather
"- Alors, Obélix, l'Helvétie c'est comment ? - Plat."
- User17706Bon génie
C'est bien ça. Nous, nous sommes des IPR (Intelligences à Potentiel Restreint).linkus a écrit:Pendant un seconde, je me suis demandé pourquoi vous parlez d'inspecteur académique.
- JPhMMDemi-dieu
Il est en effet tentant pour certains de voir dans ces possibles futures IA des formes de divinités technologiques. L'aspect religieux n'est pas à exclure donc.Sphinx a écrit:Personne, mais je préfère prévenir
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- pmullerHabitué du forum
linkus a écrit:Pendant un seconde, je me suis demandé pourquoi vous parlez d'inspecteur académique.
Oui, vu que cela n'existe plus... ?
- CeladonDemi-dieu
Ce qu'écrit Hawking m'a tellement remuée que j'ai regardé le 1er Terminator qui passait ce soir sur un canal quelconque alors que je suis résolument réfractaire à ce genre de films. C'est dire...
- AscagneGrand sage
Cela me fait penser au prochain Terminator... La série télévisée était plus intéressante que les films récents de la saga... Dans le domaine qui nous concerne, il y a des pistes plus intéressantes que les Terminator : Matrix, par exemple qui présente avec l'Architecte le cas d'une IA hyper rationnelle, mathématique et logique ; avec l'Oracle et quelques autres personnages, des IA qui se rapprochent de l'humain ; avec les machines dans le "monde réel" un exemple d'asservissement de l'humanité par des robots supérieurs.
C'est un détail dans les films, mais le ciel noir du monde réel dû à l'Operation Dark Storm est une très bonne mauvaise idée des humains pour essayer de vaincre les machines, dépendant à l'origine essentiellement de la lumière solaire : envoyer des nano-robots autorépliquants former des nuages infranchissables au-dessus du territoire des machines. Évidemment les machines trouvent des sources d'énergie alternatives, notamment les humains, tandis que les nuages artificiels, s'engendrant exponentiellement, recouvrent la planète, la rendant presque inhabitable à la vie organique en surface...
A mon avis, le risque que poseraient des IA supérieures et robotisées relèverait plus de problématiques comparables à celles de ces nano-robots de Matrix que du topos de Skynet qui lance toutes les ogives nucléaires une fois mis en route. Le danger pourrait provenir non pas d'une intention maligne (du moins de notre point de vue) ou neutre mais d'une volonté de bien faire.
Le fait est qu'il n'y aurait plus guère de commune mesure entre nous et des IA de ce genre une fois qu'elles auraient atteint ce niveau : les notions de limitation et de limites prennent un autre sens avec elles, dans un futur lointain.
Mais il n'y a pas besoin de se placer dans le futur lointain pour considérer les problèmes posés par l'intelligence artificielle - robotisée ou non (mais ayant prise sur le monde informatique - ah, la dépendance aux machines...). Du côté de la robotique, le robot n'a pas besoin d'être très intelligent pour poser des problèmes, par exemple.
Puisque j'évoquais la science-fiction : dans la série Stargate Universe (troisième des séries Stargate, d'un ton plus sérieux que ses prédécesseurs), l'équipage du Destiny
C'est un détail dans les films, mais le ciel noir du monde réel dû à l'Operation Dark Storm est une très bonne mauvaise idée des humains pour essayer de vaincre les machines, dépendant à l'origine essentiellement de la lumière solaire : envoyer des nano-robots autorépliquants former des nuages infranchissables au-dessus du territoire des machines. Évidemment les machines trouvent des sources d'énergie alternatives, notamment les humains, tandis que les nuages artificiels, s'engendrant exponentiellement, recouvrent la planète, la rendant presque inhabitable à la vie organique en surface...
A mon avis, le risque que poseraient des IA supérieures et robotisées relèverait plus de problématiques comparables à celles de ces nano-robots de Matrix que du topos de Skynet qui lance toutes les ogives nucléaires une fois mis en route. Le danger pourrait provenir non pas d'une intention maligne (du moins de notre point de vue) ou neutre mais d'une volonté de bien faire.
Le fait est qu'il n'y aurait plus guère de commune mesure entre nous et des IA de ce genre une fois qu'elles auraient atteint ce niveau : les notions de limitation et de limites prennent un autre sens avec elles, dans un futur lointain.
Mais il n'y a pas besoin de se placer dans le futur lointain pour considérer les problèmes posés par l'intelligence artificielle - robotisée ou non (mais ayant prise sur le monde informatique - ah, la dépendance aux machines...). Du côté de la robotique, le robot n'a pas besoin d'être très intelligent pour poser des problèmes, par exemple.
Puisque j'évoquais la science-fiction : dans la série Stargate Universe (troisième des séries Stargate, d'un ton plus sérieux que ses prédécesseurs), l'équipage du Destiny
- Spoiler:
- rencontre certes quelques espèces alien de notre niveau, mais tombe surtout à partir d'un moment sur des collectifs de vaisseaux-drones qui les prennent en chasse à travers toute une galaxie. J'imagine qu'il y aurait beaucoup plus de probabilités de tomber sur cette deuxième catégorie d'êtres que sur la première si l'on était en mesure d'explorer ainsi l'espace.
Si nous parvenons à concevoir de telles machines, qu'elles nous détruisent, qu'elles vivent en symbiose ou qu'elles partent ailleurs, elles nous survivront : l'idée de colonisation spatiale (au-delà du système solaire) est pour l'instant (voire pour toujours) bien plus une histoire de machines que d'humains...
- CeladonDemi-dieu
Quand je pense que tous ces films me sont restés parfaitement étrangers justement parce que je les prenais pour des élucubrations destinées à un public intellectuellement impubère...
- User21714Expert spécialisé
1 -Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.
2 - Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
3 -Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.
Les 3 lois édictées par Asimov ne suffiraient-elles pas à contrôler les Intelligences Artificielles?
- nicolinNiveau 5
Le problème majeur posé à une IA restera le même que celui qui est posé aux humains : le désir, n'est-ce pas ?
La seule différence, c'est qu'en ce qui nous concerne, c'est : lequel ?
Pour l'IA, l'existence même du désir.
(je précise que je n'ai pas lu Guattari)
La seule différence, c'est qu'en ce qui nous concerne, c'est : lequel ?
Pour l'IA, l'existence même du désir.
(je précise que je n'ai pas lu Guattari)
_________________
http://audioblog.arteradio.com/blog/patchworks/
- CeladonDemi-dieu
Ben on dirait, pourtant...
Républicain, on se rassure comme on peut.
Républicain, on se rassure comme on peut.
- SphinxProphète
Celadon a écrit:Quand je pense que tous ces films me sont restés parfaitement étrangers justement parce que je les prenais pour des élucubrations destinées à un public intellectuellement impubère...
Sans aller jusque là (je ne les ai pas vus), il est évident que ces histoires relèvent de la pure fiction. Ils sont farcis de robots méchants, ambitieux, avides de pouvoir... etc : bref, imparfaits et fonctionnant à l'irrationnel. Humains, quoi. Quant au robot qui voyage dans le temps dans Terminator, faut peut-être pas pousser
_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather
"- Alors, Obélix, l'Helvétie c'est comment ? - Plat."
Permission de ce forum:
Vous ne pouvez pas répondre aux sujets dans ce forum