ChatGPT et triche avec intelligence artificielle

Je reviendrais peut-être plus tard sur les usages de gpt en contexte professionnel (il faut peut-être les temps de digérer, mais j'y vois plus d'avantages que de risques), mais je signale rapidement un autre usage des AI qui semble se généraliser rapidement : générer des "deepakes" (faux crédibles) sonores à l'aide de banques de voix de chanteur. Ici, par exemple, une fausse reprise de Survivor par Michael Jackson. Apparemment, les problèmes juridiques posés ne sont pas simples.

profs( a écrit:Alors est ce que j'entraîne l'IA ? Oui bien entendu et ils doivent retirer des informations de ce que je demande, comment je le demande....
Maintenant, je n'ai aucun doute que dans peu de temps, l'assistant d'aujourd'hui n'aura plus besoin de moi pour générer des cours, des exercices... je pense que dans quelques temps, on donnera un contexte pro, un niveau de diplôme, des compétences à évaluer et l'IA générera des cours, exercices automatiquent.
Je pense que dans quelques temps, ils vont sortir des GPT "enseignants" qui seront programmés pour ne pas donner les réponses mais pour orienter vers des ressources, poser des questions afin de trouver les réponses.
Je n'ai aucun doute que cela explique au moins en partie notre déclassement salarial et la multiplication des contractuels. J'imagine que dans x années la manière d'enseigner aura radicalement changé ainsi que ce qu'il est important de maîtriser.
Et pour info, j'ai même payé pour utiliser la version gpt4.

Penser que l'IA n'aura plus besoin de base de données est un fantasme, si on lui coupe sa base d'information à partir d'une certaine date et bien elle ne peut pas deviner toute seule ce qui se passe après cette date. Et nous participons gratuitement ou même en payant à alimenter ses bases de données.

Euh penser que la politique de l'enseignement en France est liée à l'IA alors que dans d'autres pays la politique est totalement différente c'est un raccourci très étonnant. C'est comme si on disait que l'invention de l'imprimerie expliquait nos salaires faibles. Quand tu dis que l'enseignement va changer dans x années, oui, on peut faire le même constat depuis l'invention de l'école et quand tu dis que cela va toucher les notions qu'il sera important de maîtriser, j'ai l'impression que tu oublies que tu as une formation très solide pour affiner tes "prompts" et quand tu dis que toi et l'IA partent de rien, cela me choque, tu ne pars pas de rien tu as une solide formation. Et l'IA ne pars pas de rien non plus... Un humain qui part de rien n'ira pas bien loin tout seul comme un enfant animal, mais une IA qui part de rien n'ira nulle part c'est certain.

Une IA qui remplace des profs, oui c'est un fantasme, il y a eu le même fantasme quand on a eu peur des livres. Alors que finalement il faut aller à l'école pour savoir utiliser des livres... Et pour bien utiliser une IA et bien il faut une très bonne formation. Au début de ce fil, il y a une vidéo qui explique très bien comment cette IA fonctionne. L'analogie avec la calculatrice est très intéressante, elle est utile uniquement pour ceux qui maîtrisent le calcul sinon, elle ne sert à rien tout comme une correction à la fin d'un livre d'exercices ne sert à rien à quelqu'un qui n'a rien compris.

Finalement je viens de tester la fonction translate et ma première demande aboutit à un monstrueux contresens.
L AI vient de traduire le verbe "chronométrer" par "stopper, arrêter". L'athlète est "arrêté" par l'arbitre alors que dans la langue d'origine il est chronométré par l'arbitre. (verbe stoppen en allemand)
Ouf , je reste utile en tant que cerveau humain!

Je n’ai pas encore lu le fil, mais je suis persuadé que dans 20 ans, il n’y aura plus d’éducation nationale avec des professeurs fonctionnaires comme nous.

Le peuple aura droit à des cours administrés par des contractuels un peu formés mais les cours seront produits par des IA qui généreront des tests adaptatifs comme il en existe déjà.

Seuls les riches, l’élite aura encore accès à des vrais professeurs spécialistes de leur matière, des professeurs en chair et en os, des êtres humains.

Un article du Monde (édition abonnés) pointe différents problèmes dont celui du respect du droit d'auteur.

Sa conception et les conditions de son lancement ont déjà de quoi surprendre. Il est dû à une start-up californienne, OpenAI, dont le générateur d’images DALL-E avait fait parler d’elle en janvier 2021. A l’époque, toutefois, il n’y avait guère eu que les milieux du design et du graphisme pour s’en alarmer. Avec ChatGPT, c’est de tout autre chose qu’il s’agit.

Il est vrai que OpenAI n’est pas sans moyens financiers. Soutenue dès ses débuts, en 2015, par de grandes figures de la tech, tels Elon Musk [PDG de Tesla et de SpaceX], Sam Altman [patron d’OpenAI] et Peter Thiel [cofondateur de PayPal], puis par Microsoft à partir de 2019, elle a recruté d’excellents chercheurs et ingénieurs à Berkeley et chez Google notamment. Il n’en reste pas moins que le développement de cette application par une entreprise de 350 employés plonge dans la perplexité les habitués des investissements de grande ampleur et de longue durée.

Eviter les problèmes de propriété intellectuelle
Autre sujet d’étonnement, et non des moindres : le choix du libre accès. Altruisme de généreux bienfaiteurs, désireux de partager avec le monde entier les techniques du langage naturel ? C’est le discours des dirigeants d’OpenAI. La réalité est qu’ils n’avaient pas le choix. ChatGPT collecte des données dont l’origine est difficile à identifier. La gratuité est donc supposée éviter les problèmes de droits d’auteur et de propriété intellectuelle. Lesquels finiront d’ailleurs quand même par se poser tôt ou tard.

ChatGPT : « Tout se passe désormais comme si créer une œuvre consistait à assembler des extraits d’œuvres antérieures »
https://www.lemonde.fr/idees/article/2023/04/16/chatgpt-tout-se-passe-desormais-comme-si-creer-une-uvre-consistait-a-assembler-des-extraits-d-uvres-anterieures_6169789_3232.html

Alors, si j'en crois ce que raconte David Louapre dans ça :

le souci des droits d'auteur me semble surestimé. Il ne travaille pas en recopiant des extraits de textes pré-existants, il travaille en gros par complétion mot à mot, donc il crée un nouveau texte. D'ailleurs, l'histoire des demandes de sources de la vidéo est marrante : il peut donner références d'articles scientifiques. Inexistantes.

Panta Rhei a écrit:Je n’ai pas encore lu le fil, mais je suis persuadé que dans 20 ans, il n’y aura plus d’éducation nationale avec des professeurs fonctionnaires comme nous.

Le peuple aura droit à des cours administrés par des contractuels un peu formés mais les cours seront produits par des IA qui généreront des tests adaptatifs comme il en existe déjà.

Seuls les riches, l’élite aura encore accès à des vrais professeurs spécialistes de leur matière, des professeurs en chair et en os, des êtres humains.

Bah, dans 20 ans il n'y aura plus de questions à se poser tout court avec cela. Le domaine militaire se sera emparé des applications de l'IA, il y aura des robots préprogrammés et potentiellement des défaillances préjudiciables de ces derniers. Ou bien un virus informatique général qui effacera les données des gens partout dans le monde ou bidouillera les cours de la bourse pour mener à des crises bancaires mondiales....

Prezbo a écrit:Je reviendrais peut-être plus tard sur les usages de gpt en contexte professionnel (il faut peut-être les temps de digérer, mais j'y vois plus d'avantages que de risques), mais je signale rapidement un autre usage des AI qui semble se généraliser rapidement : générer des "deepakes" (faux crédibles) sonores à l'aide de banques de voix de chanteur. Ici, par exemple, une fausse reprise de Survivor par Michael Jackson. Apparemment, les problèmes juridiques posés ne sont pas simples.

C'est quand mème un M. Jackson bien fatigué... J'ai l'impression qu'il ne passerait même pas les auditions à l'aveugle d'un The Voice

Le deepfake vocal de Mickael Jackson me paraît mauvais aussi, .

Je vous trouve dures. Le résultat est loin d'être parfait et n'est peut-être pas (encore) trompeur mais je trouve le résultat néanmoins assez bluffant

On parle d'une techno qui est accessible au grand public depuis quelques mois. Ca peut progresser vite. Je ne suis pas sûr que l'ironie à court terme du type "c'est mauvais" soit un positionnement d'avenir. De toute façon, les question posées restent. (Si c'est fait à partir d'une banque d'enregistrement de MJ, est ce que MJ est l'interprète ?)

Prezbo a écrit:On parle d'une techno qui est accessible au grand public depuis quelques mois. Ca peut progresser vite. Je ne suis pas sûr que l'ironie à court terme du type "c'est mauvais" soit un positionnement d'avenir. De toute façon, les question posées restent. (Si c'est fait à partir d'une banque d'enregistrement de MJ, est ce que MJ est l'interprète ?)

Régulièrement j'essaye de l'utiliser dans mon domaine, la technologie. Il a plutôt bien fait des tutoriels de programmation, donc au lieu de donner des documents je dis aux élèves de demander a chatgpt. Par contre en mécanique, il fait n'importe quoi et mène des calculs complément faux. Il faut le guider vraiment pas a pas. C'est a voir comment il va progresser dans les différents domaines.

La version payante, GPT4, est de l'avis de ceux qui l'ont testée déjà beaucoup plus puissante et fiable que ChatGPT.

Pour info, GPT4 est dispo gratuitement via Bing. Pour éviter de devoir passer par le moteur de recherche de Microsoft, il y a une application :

https://github.com/dice2o/BingGPT

Des fichiers exe (windows), linux (debian et rpm pour redhat) et macos sont disponibles en bas de page.

Sous Windows, il y a une version portable (sans installation, possible de mettre le dossier sur une clé USB). Il faut ensuite lancer BingGPT.exe puis se connecter.

Il faut par contre un compte microsoft.

Merci, je vais essayer ça.

Est-ce que c'est encore un truc où il faut donner son numéro de téléphone ?

En Italie ils ont tellement la confiance qu'ils ont bridé les accès pour la population, mais ailleurs c'est la magie de Disney...
J'hallucine totalement que ceux qui s'inscrivent ne puissent pas se soucier de ce qui adviendra de leurs coordonnées. On peut changer de mail comme de chemise, mais le téléphone beaucoup moins....

S'il n'y a pas besoin de tel, c'est déjà un début....

Oui, il faut donner son numéro de téléphone pour authentifier l'inscription, je sais bien que le numéro est une donnée sensible mais c'est aussi pour eux un moyen d'éviter les trolls et plaisantins.
Il faut aussi donner sur numéro pour s'inscrire sur les sites de vente en ligne, pour les mêmes raisons.

A Tuin a écrit:Est-ce que c'est encore un truc où il faut donner son numéro de téléphone ?

En Italie ils ont tellement la confiance qu'ils ont bridé les accès pour la population, mais ailleurs c'est la magie de Disney...
J'hallucine totalement que ceux qui s'inscrivent ne puissent pas se soucier de ce qui adviendra de leurs coordonnées. On peut changer de mail comme de chemise, mais le téléphone beaucoup moins....

S'il n'y a pas besoin de tel, c'est déjà un début....

A partir du moment où quelqu'un enregistre ton nom, ton prénom et ton numéro de téléphone dans ses contacts et qu'il autorise l'accès au répertoire à n'importe quelle application, alors cette appli peut récupérer les mêmes données que chatGPT sans même que tu sois la responsable de la fuite.

Je comprends tes craintes et tes réticences mais ne pas s'inscrire ne réduit que de très peu notre exposition

nonoreno a écrit:Pour info, GPT4 est dispo gratuitement via Bing. Pour éviter de devoir passer par le moteur de recherche de Microsoft, il y a une application :

https://github.com/dice2o/BingGPT

Des fichiers exe (windows), linux (debian et rpm pour redhat) et macos sont disponibles en bas de page.

Sous Windows, il y a une version portable (sans installation, possible de mettre le dossier sur une clé USB). Il faut ensuite lancer BingGPT.exe puis se connecter.

Il faut par contre un compte microsoft.

Merci, ca fonctionne bien. Ca a l'air d'etre une version optimisée car il est capable de faire des exercices simples de mécanique, toujours avec des approximations mais le résultat est acceptable. Mais il ne travaille toujours pas avec les images, alors qu'il semble capable de traduire des images et schémas pris sur internet en description textuelle pour travailler dessus.

Je pense qu'à court terme, il sera possible de lui envoyer des images pour qu'il les modifie automatiquement. Dall-E (qui donne des résultats inégaux) sera probablement fusionné avec une future version de chatGPT.

En parlant d'images, comme Midjourney ne propose plus de version gratuite, je viens de tester Stable Diffusion.
Une multitude de sites utilisent le code de ce projet, vu qu'il est open source.

J'ai fait traduire rapidement une description faite rapidement en français via deepl.com :


Rendez-vous ensuite sur le site https://clipdrop.co/fr/stable-diffusion (trouvé par hasard sur Google).

Je copie/colle la description anglaise de deepl.com dans "décrire une nouvelle scène".

Voilà le résultat. Pas mal, je n'avais jamais utilisé ce site... Probablement pas au niveau de Midjourney 5, mais déjà impressionnant (et sans débourser un centime) :



Les graphistes et photographes de mode ont du souci à se faire... Le watermark en bas à droite s'enlève rapidement sur Photoshop.

2ème test à l'instant, ça tient la route :

Tout à fait ! C'est mort pour les graphistes et les illustrateurs. Il n'y aura pas de boulot pour tout le monde. Et pourtant, l'éducation nationale va en former autant l'année prochaine et va mettre des années à s'adapter aux besoins.

À mon sens, il est là le vrai problème, parce que seuls les meilleurs pourront travailler, en utilisant ces outils et en sachant écrire les prompts. J'ai l'impression que nous sommes sur le Titanic que l'iceberg est à un mètre et que la machinerie de l'E.N ne permettra de virer de bord que longtemps après le choc. Cela va être sanglant.

Ponocrates a écrit:À mon sens, il est là le vrai problème, parce que seuls les meilleurs pourront travailler, en utilisant ces outils et en sachant écrire les prompts. J'ai l'impression que nous sommes sur le Titanic que l'iceberg est à un mètre et que la machinerie de l'E.N ne permettra de virer de bord que longtemps après le choc. Cela va être sanglant.

Quand l'envie leur en prends de supprimer la technologie en 6ème, c'est vite fait et 'bien' fait. La c'est juste que ca leur est complètement égal l'avenir des jeunes,... au mieux ca ne les fatiguera pas trop de dire que c'est interdit car pas rgpd.

profs( a écrit:Tout à fait ! C'est mort pour les graphistes et les illustrateurs.  Il n'y aura pas de boulot pour tout le monde. Et pourtant, l'éducation nationale va en former autant l'année prochaine et va mettre des années à s'adapter aux besoins.

Je n'ai pas l'impression que l'EN cherche à ajuster ses offres de formations aux besoins du marché de l'emploi, de façon générale.

nc33 a écrit:

profs( a écrit:Tout à fait ! C'est mort pour les graphistes et les illustrateurs.  Il n'y aura pas de boulot pour tout le monde. Et pourtant, l'éducation nationale va en former autant l'année prochaine et va mettre des années à s'adapter aux besoins.

Je n'ai pas l'impression que l'EN cherche à ajuster ses offres de formations aux besoins du marché de l'emploi, de façon générale.

En effet, ce n'est pas faux.
Selon moi (mais je me trompe peut-être), la pédagogie, les contenus, ... l'enseignement tels que nous les connaissons devraient être bouleversés. Mais effectivement avec l'inertie de l'éducation nationale,  rien n'est moins certain.
Partout devraient avoir lieu des réunions, des formations, pour échanger,  apprendre, redéfinir les emplois de demain, les formations essentielles,  celles amenées à disparaître...


Vous pensez qu'un chat GPT enseignant va être long à  sortir ? Une appli qui ne donne pas les réponses directement mais qui interroge, amène à réfléchir, guide vers des ressources....
Vous pensez vraiment que cela va être long à sortir ? Dans combien de temps ce chat GPT va sortir et nous servira d'assistant ou même finira par nous remplacer ?

Je ne sais pas si ça été discuté mais cet article sur un concours photo me semble pile dans le thème https://www.radiofrance.fr/franceinter/une-cliche-prime-a-un-grand-concours-de-photos-etait-une-image-generee-par-intelligence-artificielle-5955284