"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

Merci Zagara et surtout DR Raynal pour les explications :aaq:

Le problème d'une I.A. , c'est sa part de réflexion, sa possibilité de réfléchir au-delà de son programme. Et les exemples d'une I.A. qui échapperait à ses créateurs sont légions, que ce soit au cinéma ou en littérature. Entre Skynet qui prend le pouvoir par la force ou Vicky, qui décide en vertu des 3 lois de la robotique, de retirer la liberté aux humains, le choix est vaste.

Une I.A. , quelle qu'elle soit, finira par se rendre de sa supériorité sur l'humain (absence de fatigue, pas besoin de manger). Sera-t-elle par la suite néfaste ou non pour la race humaine, c'est un autre débat. Rien ne permet de dire ce que cette intelligence fera. Comme le disait mon VDD, pourquoi obligatoirement penser à un scénario qui finirait mal ? Peut-être juste parce que ça fait vendre comme concept.

Néanmoins, il y a un risque, et Stephen Hawking a largement raison de le soulever et de nous alerter. Le problème, c'est que le risque est difficile à évaluer.

Je suis tombée (avec autant de peur que de mal) sur l'émission précédant c dans l'air où le pr Laurent Alexandre était invité pour son ouvrage La guerre des intelligences que je me précipite acheter dès demain matin. D'après lui, l'EN continue à faire n'importe quoi en préparant à des petits métiers. Par ailleurs les métiers à très haute technicité ont déjà remplacé les humains par les machines. Reconversion indispensable donc. Et le gap va se produire très rapidement maintenant et on n'est absolument pas prêts. Il dit que là où l'humain va être indispensable c'est dans des domaines comme la philosophie pour former l'esprit critique et qu'il faut réintroduire d'urgence les Humanités (et encore, c'est peut-être déjà trop tard).

Oui, je l'ai entendu intervenir l'autre jour sur je en sais plus quelle chaine.

JPhMM a écrit:Ce n'est pas un mal en soi.
D'ailleurs elle disparaitra un jour, le doute n'est pas permis en cela.

La fin d'une espèce (quelle qu'elle soit) n'est peut-être pas un "mal" en soi, mais c'est triste, non ? Une forme de vie qui s'en va...

Seb-s a écrit: Après tout, les scientifiques ayant assez d'intelligence pour créer une IA ont peut être également assez d'intelligence pour la programmer de sorte à ce qu'elle aide les humains et non pas qu'elle les domine.

Certes. Pourvu que ce ne soit pas placé entre de trop mauvaises mains et que l'IA ne finisse pas par aider certains et dominer d'autres !

La race humaine aura disparu bien avant...

Il a dit aussi que la Chine et la Californie sont les deux pôles à fond les manettes dans l'ia et que les nations comme la nôtre, qui ne prennent pas le problème à bras-le corps, ne seront que leurs colonies. Et il ne s'est pas montré si choqué que certains d'entre nous de la disparition de nos civilisations ni de l'évolution de l'humain vers d'autres formes...

Pour les abonnés d'Arrêt sur images :
https://www.arretsurimages.net/emissions/2017-10-12/Intelligence-artificielle-on-plaque-des-solutions-technologiques-sur-des-questions-sociales-id10240

L'intelligence artificielle déferle sur le monde. Pas un jour sans qu'une dizaine d'articles expliquent quel nouveau champ elle s'apprête à révolutionner. Et pourtant, elle apparait toujours aussi absconse : y a-t-il "une" intelligence artificielle, ou plusieurs, appliquées à des taches précises? Est-elle vraiment intelligente? Au point de pouvoir, potentiellement, s'en prendre à ses créateurs? Et surtout, quels défis pose-t-elle à la société, en termes d'emplois et de responsabilité politique? Pour répondre : Laurent Alexandre, chirurgien urologue, entrepreneur fondateur de Doctissimo, auteur de La Guerre des Intelligences (JC Lattès) ; Jean-Gabriel Ganascia, chercheur en IA et professeur à l'université Pierre et Marie Curie, auteur de Le Mythe de la Singularité (Seuil) ; Tiffany Blandin, journaliste indépendante auteur de Un monde sans travail? (Seuil/Reporterre) et Irénée Régnauld, fondateur de l'association Le Mouton Numérique qui questionne les aspects politiques de l'innovation, et auteur du blog Mais où va le web?

Beaucoup de gens s'imaginent que l'IA pourrait mettre fin à la race humaine intentionnellement. Pour ma part, le danger serait plutôt qu'une IA commette une "erreur critique" en travaillant à optimiser quelque chose de bénéfique pour l'humanité. On peut imaginer un processus tel que : manipulation génétique des sources alimentaires pour résoudre les problèmes de culture (faim dans le monde, etc.), puis dépendance au bout d'un certain temps à une forme de nourriture qui est détruite par un agent pathogène non prévisible. Scénario sans doute applicable à d'autres champs : protection biologique, etc.

Il y a un bon film de Joseph Sargent pas très subtil mais efficace, ce n'est pas la fin de l'humanité mais pas loin..
Le cerveau d'acier
https://fr.wikipedia.org/wiki/Le_Cerveau_d%27acier

j'aime bien la micro nouvelle de Frédéric Brown "Answer" de 1954

Dwar Ev souda solennellement la dernière connexion avec un fil d'or. Les yeux d'une douzaine de caméras de télévision l'observaient, et les ondes transportaient à travers le cosmos une douzaine d'images de la scène.
Il se redressa, s'inclina vers Dwar Reyn et se plaça près de la manette qui allait établir le contact quand il l'abaisserait. La manette qui allait relier d'un seul coup tous les monstrueux ordinateurs de toutes les planètes habitées de l'univers - quatre-vingt-seize milliards de planètes-dans un supercircuit. Une machine cybernétique combinant toutes les connaissances de toutes les galaxies.
Dwar Reyn prononça quelques mots pour les trillions de gens qui regardaient la scène. Et après un silence, dit :
-A vous, Dwar Ev.
Dwar Ev abaissa la manette. II y eut un bourdonnement immense. L'influx de courant de quatre-vingt-seize milliards de planètes. Des lumières s'allumèrent s'éteignirent le long du tableau qui s'étendait sur des kilomètres. Dwar Ev recula, inspira profondément.
- L'honneur de poser la première question vous revient, Dwar Reyn.
-Merci, dit Dwar Reyn. C'est une question a laquelle aucun ordinateur n'a encore pu répondre.
II se tourna vers la machine:
-Dieu existe-t-il ?
La voix puissante répondit sans hésitation. Sans même le déclic d'un simple relais.
-Oui. Maintenant Dieu existe.
Une panique soudaine apparut sur le visage de Dwar Ev. II se précipita sur la manette.
Un eclair jailli du ciel sans nuages le frappa avant de souder la manette en position de marche.

Fredric Brown.

Arrêt sur Images a dédié un épisode à la question de l'avancée des IA.

Il en ressort que les transformations sociales et les "dangers" dues aux IA dites "faibles" (segmentées, spécialisées, sans capacité de conscience) sont actuelles et déjà engagées, tandis que les IA dites "fortes" (qui font fantasmer les gens) ne seront pas là avant bien longtemps (voir jamais) et en avoir peur relève de la science-fiction. Les invités tendaient à accepter l'idée que le battage médiatique autour des IA fortes permettait d'éluder et de masquer les problèmes sociaux et démocratiques fondamentaux déjà soulevés par le fonctionnement des IA faibles.

Balthazaard a écrit:j'aime bien la micro nouvelle de Frédéric Brown  "Answer" de 1954

Dwar Ev souda solennellement la dernière connexion avec un fil d'or. Les yeux d'une douzaine de caméras de télévision l'observaient, et les ondes transportaient à travers le cosmos une douzaine d'images de la scène.
Il se redressa, s'inclina vers Dwar Reyn et se plaça près de la manette qui allait établir le contact quand il l'abaisserait. La manette qui allait relier d'un seul coup tous les monstrueux ordinateurs de toutes les planètes habitées de l'univers - quatre-vingt-seize milliards de planètes-dans un supercircuit. Une machine cybernétique combinant toutes les connaissances de toutes les galaxies.
Dwar Reyn prononça quelques mots pour les trillions de gens qui regardaient la scène. Et après un silence, dit :
-A vous, Dwar Ev.
Dwar Ev abaissa la manette. II y eut un bourdonnement immense. L'influx de courant de quatre-vingt-seize milliards de planètes. Des lumières s'allumèrent s'éteignirent le long du tableau qui s'étendait sur des kilomètres. Dwar Ev recula, inspira profondément.
- L'honneur de poser la première question vous revient, Dwar Reyn.
-Merci, dit Dwar Reyn. C'est une question a laquelle aucun ordinateur n'a encore pu répondre.
II se tourna vers la machine:
-Dieu existe-t-il ?
La voix puissante répondit sans hésitation. Sans même le déclic d'un simple relais.
-Oui. Maintenant Dieu existe.
Une panique soudaine apparut sur le visage de Dwar Ev. II se précipita sur la manette.
Un eclair jailli du ciel sans nuages le frappa avant de souder la manette en position de marche.

Fredric Brown.

https://www.wolframalpha.com/input/?i=does+god+exist+%3F

https://www.wolframalpha.com/input/?i=Why+%3F



Au moins, ils nous font rire.

JPhMM a écrit:https://www.wolframalpha.com/input/?i=Why+%3F



Au moins, ils nous font rire.

Oui, WolframAlpha peut aussi raconter des blagues (qui n'amusent que les mathématiciens, bien entendu !).

Spoiler:

JPhMM a écrit:https://www.wolframalpha.com/input/?i=Why+%3F



Au moins, ils nous font rire.

Excellent!

De toute façon la réponse est positive, Gödel l'a prouvé, pas besoin d'ordi

Preuve ontologique de l'existence de Dieu (Kurt Gödel 1970)

   Définition 1 : x est divin (propriété que l'on note G(x)) si et seulement si x contient comme propriétés essentielles toutes les propriétés qui sont positives et seulement celles-ci.
   Définition 2 : A est une essence de x si et seulement si pour chaque propriété B, si x contient B alors A entraîne nécessairement B.
   Définition 3 : x existe nécessairement si et seulement si chaque essence de x est nécessairement exemplifiée.
   Axiome 1 : Toute propriété entraînée par — c'est-à-dire impliquée uniquement par — une propriété positive est positive.
   Axiome 2 : Une propriété est positive si et seulement si sa négation n'est pas positive.
   Axiome 3 : La propriété d'être divin est positive.
   Axiome 4 : Si une propriété est positive, alors elle l'est nécessairement.
   Axiome 5 : L'existence nécessaire est positive.

De ceux-ci et des axiomes de la logique modale, on déduit, dans l'ordre :

   Théorème 1 : Si une propriété est positive, alors elle est possiblement exemplifiée.
   Théorème 2 : La propriété d'être divin est possiblement exemplifiée.
   Théorème 3 : Si x est divin, alors la propriété d'être divin est une essence de x.
   Théorème 4 : La propriété d'être divin est nécessairement exemplifiée.

C'était peut-être de l'humour au 10....0 ème degré, ou alors il ne fumait pas que du tabac

Nous sommes mûrs pour le Wedge Document

http://www.antievolution.org/features/wedge.html

@Balthazaard

Le pauvre homme n'a pas totalement bien fini.

Et pas totalement bien commencé.
Il faut bien démontrer précédemment qu'il existe un discours humain qui parle de Dieu. Ami Wittgenstein...

Zagara a écrit:Arrêt sur Images a dédié un épisode à la question de l'avancée des IA.

Il en ressort que les transformations sociales et les "dangers" dues aux IA dites "faibles" (segmentées, spécialisées, sans capacité de conscience) sont actuelles et déjà engagées, tandis que les IA dites "fortes" (qui font fantasmer les gens) ne seront pas là avant bien longtemps (voir jamais) et en avoir peur relève de la science-fiction. Les invités tendaient à accepter l'idée que le battage médiatique autour des IA fortes permettait d'éluder et de masquer les problèmes sociaux et démocratiques fondamentaux déjà soulevés par le fonctionnement des IA faibles.

Probablement jamais en effet, car dans les prochaines décennies, on aura à régler des problèmes environnementaux si dévastateurs qu'on n'aura pas l'occasion d'accéder à ce niveau de développement technologique.

Pour rectifier le titre, c'est "l'intelligence de l'homme qui mettra fin à notre race"

Tiens, alphago vient de se faire battre sèchement (mais il semble difficile d'en savoir plus avec des articles en français...).

http://www.lepoint.fr/high-tech-internet/alphago-zero-l-ia-autodidacte-qui-a-terrasse-alphago-19-10-2017-2165696_47.php

https://deepmind.com/blog/alphago-zero-learning-scratch/

Leclochard a écrit:

Zagara a écrit:Arrêt sur Images a dédié un épisode à la question de l'avancée des IA.

Il en ressort que les transformations sociales et les "dangers" dues aux IA dites "faibles" (segmentées, spécialisées, sans capacité de conscience) sont actuelles et déjà engagées, tandis que les IA dites "fortes" (qui font fantasmer les gens) ne seront pas là avant bien longtemps (voir jamais) et en avoir peur relève de la science-fiction. Les invités tendaient à accepter l'idée que le battage médiatique autour des IA fortes permettait d'éluder et de masquer les problèmes sociaux et démocratiques fondamentaux déjà soulevés par le fonctionnement des IA faibles.

Probablement jamais en effet, car dans les prochaines décennies, on aura à régler des problèmes environnementaux si dévastateurs qu'on n'aura pas l'occasion d'accéder à ce niveau de développement technologique.

Pour rectifier le titre, c'est "l'intelligence de l'homme qui mettra fin à notre race"  

Ou "C'est l'intelligence artificielle qui sauvera notre espèce de l'extinction".

C'est vrai que je reste extrêmement sceptique face aux annonces prospectives d'innovations majeures qui bouffent une énergie considérable et demandent de fortes maintenances. Penser au coûts écologique et énergétique est devenu un réflexe, et j'ai intégré l'idée que la multiplication des peaks et le déréglement climatique iraient contre ce genre de totems technologiques tout à fait démesurés.
Le cas le plus excessif est celui des implants bioniques et des méchas. Oui on commence à savoir en faire des rudimentaires, mais imaginez les coûts en ressources, en énergie et en maintenance que supposent un bras bionique interfacé ou un méchasuit complet. C'est juste fou et irréaliste dans un contexte de tension écologique ; le genre d'objet qu'on ne verra pas en dehors des armées des pays les plus fantasques habitués au gâchis (bonjour usa).

"Les géants du numérique font émerger des cerveaux industriels moins chers que ceux développés de façon "artisanale" par l'EN. En outre, ces cerveaux biologiques évoluent peu alors que l'IA voit sa puissance sans cesse augmenter.
Nous avons oublié de nous poser une question fondamentale : pouvons-nous maîtriser l'IA ? L'école est l'institution spécialement dédiée au développement et à la diffusion de l'intelligence. Saura-t-elle apporter une réponse positive à la question précédente ?
Cet enjeu essentiel pour l'humanité n'a jamais été évoqué au cours de la campagne présidentielle de 2017.
Nous devons pourtant parvenir à établir une complémentarité Homme-LA aussi équilibrée que possible. Il faut maîtriser l'IA , et trouver une sorte de modus vivendi avec un voisin envahissant dont on ne sait presque rien puisqu'il devient une boîte noire.
Pour cela, il nous faut dès maintenant profondément revoir l'éducation et la formation. Si l'IA est le problème, elle serait aussi en grande partie la solution. L'eugénisme cérébral ou l'interfaçage de notre intelligence avec l'IA s'imposeront comme une réponse incontournable au gigantesque défi posé par la concurrence des machines.
A très court terme, c'est notre façon d'acquérir des connaissances, inchangée depuis des siècles, qui va devoir embrasser les nouvelles technologies pour gagner en efficacité et en rapidité."
Laurent Alexandre in La guerre des intelligences. J.C.Lattès p. 72/73

jaybe a écrit:Tiens, alphago vient de se faire battre sèchement (mais il semble difficile d'en savoir plus avec des articles en français...).

http://www.lepoint.fr/high-tech-internet/alphago-zero-l-ia-autodidacte-qui-a-terrasse-alphago-19-10-2017-2165696_47.php

https://deepmind.com/blog/alphago-zero-learning-scratch/

Ça, ça fait extrêmement peur.