- User17706Bon génie
Ça, ça fait extrêmement peur.jaybe a écrit:Tiens, alphago vient de se faire battre sèchement (mais il semble difficile d'en savoir plus avec des articles en français...).
http://www.lepoint.fr/high-tech-internet/alphago-zero-l-ia-autodidacte-qui-a-terrasse-alphago-19-10-2017-2165696_47.php
https://deepmind.com/blog/alphago-zero-learning-scratch/
- JPhMMDemi-dieu
Singularité atteinte, en go.PauvreYorick a écrit:Ça, ça fait extrêmement peur.jaybe a écrit:Tiens, alphago vient de se faire battre sèchement (mais il semble difficile d'en savoir plus avec des articles en français...).
http://www.lepoint.fr/high-tech-internet/alphago-zero-l-ia-autodidacte-qui-a-terrasse-alphago-19-10-2017-2165696_47.php
https://deepmind.com/blog/alphago-zero-learning-scratch/
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- User17706Bon génie
Il faudrait appeler cette preuve preuve de Leibniz-Gödel
- JPhMMDemi-dieu
Quel fatras fantasque et vide de sens. Il faut qu'il arrête de fumer les bandes des anciennes VHS de "2001".Celadon a écrit:"Les géants du numérique font émerger des cerveaux industriels moins chers que ceux développés de façon "artisanale" par l'EN. En outre, ces cerveaux biologiques évoluent peu alors que l'IA voit sa puissance sans cesse augmenter.
Nous avons oublié de nous poser une question fondamentale : pouvons-nous maîtriser l'IA ? L'école est l'institution spécialement dédiée au développement et à la diffusion de l'intelligence. Saura-t-elle apporter une réponse positive à la question précédente ?
Cet enjeu essentiel pour l'humanité n'a jamais été évoqué au cours de la campagne présidentielle de 2017.
Nous devons pourtant parvenir à établir une complémentarité Homme-LA aussi équilibrée que possible. Il faut maîtriser l'IA , et trouver une sorte de modus vivendi avec un voisin envahissant dont on ne sait presque rien puisqu'il devient une boîte noire.
Pour cela, il nous faut dès maintenant profondément revoir l'éducation et la formation. Si l'IA est le problème, elle serait aussi en grande partie la solution. L'eugénisme cérébral ou l'interfaçage de notre intelligence avec l'IA s'imposeront comme une réponse incontournable au gigantesque défi posé par la concurrence des machines.
A très court terme, c'est notre façon d'acquérir des connaissances, inchangée depuis des siècles, qui va devoir embrasser les nouvelles technologies pour gagner en efficacité et en rapidité."
Laurent Alexandre in La guerre des intelligences. J.C.Lattès p. 72/73
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- ZagaraGuide spirituel
Les IA apprenantes et auto-apprenantes sont des technos super vieilles.PauvreYorick a écrit:Ça, ça fait extrêmement peur.jaybe a écrit:Tiens, alphago vient de se faire battre sèchement (mais il semble difficile d'en savoir plus avec des articles en français...).
http://www.lepoint.fr/high-tech-internet/alphago-zero-l-ia-autodidacte-qui-a-terrasse-alphago-19-10-2017-2165696_47.php
https://deepmind.com/blog/alphago-zero-learning-scratch/
Ça fait longtemps qu'on sait faire une IA avec corps robotique qui apprend par elle-même à marcher, à force d'essais-erreurs.
Ça reste de l'IA faible. Elle n'est pas capable d'apprendre autre chose que ce qu'on lui dit d'apprendre. Sa connaissance et son apprentissage restent segmentés : une IA à qui on dit "apprends à marcher" finira par devenir la meilleure marcheuse de l'histoire, et voilà tout.
Évidemment le problème est que les ricains sont déjà en train de réfléchir à fabriquer des IA apprenantes qui ont pour ordre "apprends à tuer mon ennemi" (embarquées dans des drones autonomes). Mais là ce n'est pas la faute de l'IA, c'est la faute de son créateur qui est un gros con irresponsable.
Les IA faibles ne sont pas différentes de tout autre outil ; elles dépendent directement de quels ordres on leur donne et de quels usages on en a. La différence c'est que ce sont des outils automatisés et très efficaces. Donc on peut imaginer tout outil qu'on utilise aujourd'hui, ainsi que certains métiers, mais sans assistance humaine et meilleur que nous. Voilà la surface raisonnable du fantasme. Ce n'est pas une "singularité".
- User17706Bon génie
Disons que quand on connaît la difficulté du problème (en l'occurrence faire jouer une machine au go), l'ampleur de la performance réalisée par AlphaGo Zero ne peut que forcer le respect.
- CasparProphète
Carnyx a écrit:Et si les robots devenaient religieux ?
Asimov n'a pas prévu le cas.
Si, dans la nouvelle "Reason" par exemple.
- JPhMMDemi-dieu
Gardons-nous d'être naïfs. Ils sont très loin d'être les seuls.Zagara a écrit:Évidemment le problème est que les ricains sont déjà en train de réfléchir à fabriquer des IA apprenantes qui ont pour ordre "apprends à tuer mon ennemi" (embarquées dans des drones autonomes).
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- CeladonDemi-dieu
Petite récap de toutes les peurs et tentative de désamorçage :
http://www.francetvinfo.fr/choix/chomage-de-masse-armes-autonomes-terminator-en-puissance-faut-il-avoir-peur-de-l-intelligence-artificielle_2417671.html
http://www.francetvinfo.fr/choix/chomage-de-masse-armes-autonomes-terminator-en-puissance-faut-il-avoir-peur-de-l-intelligence-artificielle_2417671.html
- ZagaraGuide spirituel
Ce sont les seuls à en avoir les moyens, parce que ça demande une budgétisation à fonds perdus tout à fait dantesque.JPhMM a écrit:Gardons-nous d'être naïfs. Ils sont très loin d'être les seuls.Zagara a écrit:Évidemment le problème est que les ricains sont déjà en train de réfléchir à fabriquer des IA apprenantes qui ont pour ordre "apprends à tuer mon ennemi" (embarquées dans des drones autonomes).
Il faut avoir la culture du gâchis qu'ont les USA et un complexe militaro-industriel sur-développé pour faire ce genre de recherche.
D'autres aimeraient le faire, certainement (il y a des militaires irresponsables dans chaque pays), mais leur pays et leurs politiques n'ont pas le budget ni l'envie de les soutenir. Pas oublier que les USA sont à un PIB 2 fois plus élevé que le second pays le plus riche du monde (Chine) : ils sont les seuls à avoir autant de fric à dépenser. Par exemple en France on n'a même pas de drones militaires. On préfère faire de la recherche interdite sur les armes chimiques ; mais chut, c'est secret défense spécial France cour martiale. :lol:
- CeladonDemi-dieu
Oui, euh... Kalach avance bien aussi dans ce domaine... cf le lien posté supra.Zagara a écrit:Ce sont les seuls à en avoir les moyens, parce que ça demande une budgétisation à fonds perdus tout à fait dantesque.JPhMM a écrit:Gardons-nous d'être naïfs. Ils sont très loin d'être les seuls.Zagara a écrit:Évidemment le problème est que les ricains sont déjà en train de réfléchir à fabriquer des IA apprenantes qui ont pour ordre "apprends à tuer mon ennemi" (embarquées dans des drones autonomes).
Il faut avoir la culture du gâchis qu'ont les USA et un complexe militaro-industriel sur-développé pour faire ce genre de recherche.
D'autres aimeraient le faire, certainement (il y a des militaires irresponsables dans chaque pays), mais leur pays et leurs politiques n'ont pas le budget ni l'envie de les soutenir. Pas oublier que les USA sont à un PIB 2 fois plus élevé que le second pays le plus riche du monde (Chine) : ils sont les seuls à avoir autant de fric à dépenser. Par exemple en France on n'a même pas de drones militaires. On préfère faire de la recherche interdite sur les armes chimiques ; mais chut, c'est secret défense spécial France cour martiale. :lol:
L'IA va créer des robots tueurs
La peur. Les terrains de guerre vont-ils bientôt être peuplés de robots équipés d'une caméra, capables d'identifier automatiquement une cible et d'ouvrir le feu sans ordre humain ? Il n'est pas interdit de l'envisager : l'analyse d'images en temps réel par des programmes permet aujourd'hui à Facebook de retrouver l'identité de vos amis sur une photo de vacances, ou à une voiture autonome d'identifier une ligne continue sur la chaussée et ainsi de ne pas doubler un véhicule.
De là à s'inquiéter de l'arrivée d'un Terminator ? Certains, comme Bruno Stagno, directeur exécutif adjoint de Human Rights Watch, estiment auprès de franceinfo que "ce n’est pas de la science-fiction". Pour lui, "cela pose une grande question de moralité pour l’humanité car [ces robots tueurs] décideraient de manière autonome et indépendante qui tuer pendant un conflit".
La réalité. Début juillet, l'entreprise Kalachnikov, qui produit le célèbre fusil d'assaut AK-47, a annoncé à l'agence russe Tass avoir développé un module de combat automatisé capable de repérer seul des cibles. Signe que le sujet préoccupe, plus d'un millier d'acteurs de la science et du secteur des nouvelles technologies ont rédigé, fin juillet, une lettre ouverte appelant à un traité international interdisant les "armes autonomes offensives".
Parmi les signataires se trouvent des personnalités éminemment respectées, comme le fondateur de SpaceX Elon Musk, le cofondateur d'Apple Steve Wozniak, ou encore le directeur du département de Facebook dédié à l'intelligence artificielle, Yann LeCun.
L'intelligence artificielle a atteint un point où le déploiement de telles machines est réalisable d'ici quelques années, non quelques décennies. Les enjeux sont immenses : les armes autonomes sont décrites comme la troisième révolution dans le domaine militaire.
Les signataires d'un appel à l'interdiction des armes autonomes
Une analyse que ne partage pas Jean-Gabriel Ganascia. "Il faut spécifier à la machine ce qu'est une cible pour que celle-ci puisse la reconnaître : cela peut par exemple être un individu qui porte du métal sur lui dans un terrain de guerre, détaille le chercheur. Mais craindre que cette décision échappe aux humains relève de la mauvaise foi comme la définissait Sartre [c'est-à-dire un moyen de se défausser de notre liberté et de notre responsabilité]." Le spécialiste préfère mettre en avant des technologies défensives, comme des robots capables de détecter la présence de mines terrestres.
- JPhMMDemi-dieu
C'est un peu plus complexe que cela. La recherche militaire est aussi un moyen, aux États-Unis, pour financer la recherche civile. La notion de "gâchis" ne me semble pas valide concernant les dépenses de recherche. Par définition, si on ne finançait que la recherche dont on connaît les débouchés économiques par avance, on ne ferait pas de recherche. Or la recherche militaire américaine abreuve très majoritairement le monde civil, à plus ou moins long terme. Les exemples sont nombreux. Si la DARPA n'avait pas financé sans compter pour développer l'ARPANET, nous ne serions probablement pas en train de discuter toi et moi actuellement, du fait de l'inexistence d'Internet. Ce n'est plus un secret pour personne, les USA financent par milliards la recherche militaire aussi pour subventionner sans limite leur industrie.Zagara a écrit:Ce sont les seuls à en avoir les moyens, parce que ça demande une budgétisation à fonds perdus tout à fait dantesque.JPhMM a écrit:Gardons-nous d'être naïfs. Ils sont très loin d'être les seuls.Zagara a écrit:Évidemment le problème est que les ricains sont déjà en train de réfléchir à fabriquer des IA apprenantes qui ont pour ordre "apprends à tuer mon ennemi" (embarquées dans des drones autonomes).
Il faut avoir la culture du gâchis qu'ont les USA et un complexe militaro-industriel sur-développé pour faire ce genre de recherche.
D'autres aimeraient le faire, certainement (il y a des militaires irresponsables dans chaque pays), mais leur pays et leurs politiques n'ont pas le budget ni l'envie de les soutenir. Pas oublier que les USA sont à un PIB 2 fois plus élevé que le second pays le plus riche du monde (Chine) : ils sont les seuls à avoir autant de fric à dépenser. Par exemple en France on n'a même pas de drones militaires. On préfère faire de la recherche interdite sur les armes chimiques ; mais chut, c'est secret défense spécial France cour martiale. :lol:
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- CeladonDemi-dieu
Je n'allais pas ouvrir un topic pour ça alors je le mets ici mais il y a vraiment de quoi s'inquiéter. Il va falloir dare-dare réagir avec la loi sur la violation de domicile parce que là !!!! :
https://fr.yahoo.com/finance/actualites/amazon-et-walmart-pourraient-rentrer-chez-vous-en-votre-absence-pour-vous-livrer-150339902.html
https://fr.yahoo.com/finance/actualites/amazon-et-walmart-pourraient-rentrer-chez-vous-en-votre-absence-pour-vous-livrer-150339902.html
e géant du commerce en ligne a présenté une serrure connectée, permettant aux livreurs d’accéder au domicile du client en son absence.
L’avenir du commerce en ligne a de quoi inquiéter. Amazon a présenté des dispositifs de serrure et de caméra connectées. L’idée, c’est de pouvoir livrer un client, à son domicile, même lorsqu’il est absent.
Concrètement, les livreurs, grâce à une serrure connectée commandée à distance, peuvent entrer au domicile du client pour livrer le produit commandé lorsqu’il n’est pas là. Un dispositif présenté mercredi 25 octobre par Amazon, quelques temps après son principal concurrent, Walmart.
- laMissSage
Oui, j'ai vu ça mais je pense que c'est HS ici. Il doit bien y avoir un topic sur les données privées quelque chose comme ça, non ?
En revanche, je crois qu'Arte a diffusé un reportage (que je n'ai pas vu) lié à la robotique et au travail des chercheurs selon lesquels un jour on pourrait "mettre" un esprit humain dans un robot donc être immortel.
En revanche, je crois qu'Arte a diffusé un reportage (que je n'ai pas vu) lié à la robotique et au travail des chercheurs selon lesquels un jour on pourrait "mettre" un esprit humain dans un robot donc être immortel.
_________________
Si rien n'est décidé, ce sera à chacun d'entre nous de décider en conscience.
- CeladonDemi-dieu
Ce n'est pas une partie de l'IA ?
- JPhMMDemi-dieu
Vieille idée, laMiss.
Depuis au moins...
Depuis au moins...
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- ElyasEsprit sacré
J'ai l'impression de relire toutes les idées la SF des années 80-90 sur ce fil. Des tas de romans ont traité ces sujets.
- JPhMMDemi-dieu
En même temps, le cyberpunk date de la fin des années 70 (sans compter les quelques précurseurs, Dick en tête).
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- ElyasEsprit sacré
JPhMM a écrit:En même temps, le cyberpunk date de la fin des années 70 (sans compter les quelques précurseurs, Dick en tête).
Tout à fait. Pas mal de romans traitent de cela. J'ai tilté sur l'idée de faire passer un esprit humain dans une machine. C'est une idée pas mal développée dans de nombreuses oeuvres de SF.
Après, il n'y a pas que Dick (qui a la chance d'être le scénariste officiel de Hollywood pour être connu). Bien d'autres, aussi talentueux, ont écrit dessus. J'ai en tête "Etoiles mourantes" d'Ayerdhal et Dunyach où justement des pans de l'humanité ayant fait des choix différentes (dont certains dans la mouvance transhumaniste) se retrouvent pour une négociation diplomatique après des siècles de séparation.
On peut aussi parler du vieux jeu Battletech
- CeladonDemi-dieu
Sauf que ce n'est plus de la fiction...
- ElyasEsprit sacré
Celadon a écrit:Sauf que ce n'est plus de la fiction...
Bah... cela fait de notre époque une spatio-localisation intéressante
- JPhMMDemi-dieu
Oui, bien d'autres auteurs, mais je parlais de Dick comme précurseur.
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- JPhMMDemi-dieu
Les prospecteurs en technologie pillent abondamment la SF, qui a toujours quelques décennies d'avance sur eux.Celadon a écrit:Sauf que ce n'est plus de la fiction...
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
- ElyasEsprit sacré
JPhMM a écrit:Oui, bien d'autres auteurs, mais je parlais de Dick comme précurseur.
Oui Enfin, le jour où on verra une planète Vatican XXVIII avec des robots dissertant sur Dieu (Project Pope de Clifford D. Simak, un de mes auteurs favoris !), on pourra s'amuser un peu
- laMissSage
JPhMM a écrit:Vieille idée, laMiss.
Depuis au moins...
Oui, non mais là apparemment, des gens y travaillent sérieusement et seraient sur le point d'atteindre cet objectif (sur le point = dans 100 ans).
J'ai vu un extrait. Attendez, je cherche le lien.
Edit : voilà !
https://www.arte.tv/fr/videos/057415-000-A/la-fabrique-du-cerveau/
Extrait :
https://twitter.com/ARTEfr/status/921813084917841920
_________________
Si rien n'est décidé, ce sera à chacun d'entre nous de décider en conscience.
- JPhMMDemi-dieu
Les Seigneurs de l'Instrumentalité propose des situations bien plus amusantes encore.
_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. — John Locke
Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
Permission de ce forum:
Vous ne pouvez pas répondre aux sujets dans ce forum