ChatGPT et triche avec intelligence artificielle

Par curiosité tu lui as demandé quoi ? Car a chaque fois après discussion il affine sa réponse, cela devient un outil conversationnel, ce n'est pas google.

nonoreno a écrit:

Dhattura a écrit:

nounours22 a écrit:Bonjour ,
...
en passant si vous avez ds QCM à faire , c'est possible , même 5 minutes avant d'aller en cours , et cela vous laisse le temps de boire un café : aorès il faut encore que la photocopieuse du collège fonctionne !
...

Bon courage

Ah bon? Comment fais-tu? Quelles consignes lui donnes-tu pour qu'elle réalise un QCM pertinent?
J'ai essayé pour voir mais le résultat laisse plus qu'à désirer.
:-)

Edit: à la lecture du message précédent, de Nonoreno, j'ai fait d'autres essais, plus fructueux. C'est qu'il faut bien expliciter les consignes!

Tu peux lui proposer de réaliser un QCM à partir d'une leçon...

Exemple : "Réalise un QCM destiné à un élève de collège, à partir de la leçon suivante [suit un copier/coller d'une leçon trouvée dans un manuel scolaire]"

Punaise! C'est hallucinant!
Je testerai plus tard. Merci pour ta réponse.

Dhattura a écrit:

nonoreno a écrit:

Dhattura a écrit:

nounours22 a écrit:Bonjour ,
...
en passant si vous avez ds QCM à faire , c'est possible , même 5 minutes avant d'aller en cours , et cela vous laisse le temps de boire un café : aorès il faut encore que la photocopieuse du collège fonctionne !
...

Bon courage

Ah bon? Comment fais-tu? Quelles consignes lui donnes-tu pour qu'elle réalise un QCM pertinent?
J'ai essayé pour voir mais le résultat laisse plus qu'à désirer.
:-)

Edit: à la lecture du message précédent, de Nonoreno, j'ai fait d'autres essais, plus fructueux. C'est qu'il faut bien expliciter les consignes!

Tu peux lui proposer de réaliser un QCM à partir d'une leçon...

Exemple : "Réalise un QCM destiné à un élève de collège, à partir de la leçon suivante [suit un copier/coller d'une leçon trouvée dans un manuel scolaire]"

Punaise! C'est hallucinant!
Je testerai plus tard. Merci pour ta réponse.

Pas de soucis, on peut aussi lui demander de poser des questions à partir d'un texte. Au hasard, j'ai copié/collé un extrait de wikipédia.

Propose une série de 10 questions à partir de ce texte [suit un copier/coller d'un texte trouvé sur internet]

Pour ma part j'ai arrêté le test au moment où on m'a demandé mon numéro de téléphone.

maikreeeesse a écrit:Par curiosité tu lui as demandé quoi ? Car a chaque fois après discussion il affine sa réponse, cela devient un outil conversationnel, ce n'est pas google.

Je lui ai demandé la définition de densité, et il dit que c'est un synonyme de masse volumique et que son unité est le kg/m3, or la densité est un rapport entre deux masses volumique. Elle n'a donc pas d'unité. En anglais, density signifie masse volumique. D'où la confusion.

Deuxième question, je lui ai demandé ce qu'était un ludion, et il était à côté de la plaque.

J'en ai ensuite posé une autre à savoir ce qu'était la technique du poumon ballast, et il dit que c'est quand on gonfle les poumons avant de descendre sous l'eau en apnée, or c'est l'inverse, on vide les poumons pour descendre et c'est de toute façon peu utilisé en apnée. Il dit aussi que c'est une technique qui permet de compenser le poids de la bouteille en plongée bouteille, alors que c'est une technique qui permet de monter ou de descendre juste en maitrisant sa respiration.

Bref, sur ces questions techniques, ce n'est pas très convainquant.

En philosophie, le résultat n'est pas très probant non plus. On sent bien le côté "artificiel" de l'intelligence.
J'ai tenté deux sujets de dissertation (Peut-on vivre dans la nature ? et Peut-on utiliser une technique sans la comprendre ?) ; il y a quelques idées intéressantes mais rien qui ne manifeste une réelle compréhension du sens des sujets. Le logiciel produit tout de même des textes qui seraient considérés comme un verbiage cultivé mais ne répondant pas aux exigences intellectuelles de l'exercice.

Pour l'instant rien de bien méchant à craindre, mais à suivre et à surveiller si cette intelligence artificielle "apprend" de manière efficace à singer ce qui est attendu.

Minerve a écrit:En philosophie, le résultat n'est pas très probant non plus. On sent bien le côté "artificiel" de l'intelligence.
J'ai tenté deux sujets de dissertation (Peut-on vivre dans la nature ? et Peut-on utiliser une technique sans la comprendre ?) ; il y a quelques idées intéressantes mais rien qui ne manifeste une réelle compréhension du sens des sujets. Le logiciel produit tout de même des textes qui seraient considérés comme un verbiage cultivé mais ne répondant pas aux exigences intellectuelles de l'exercice.

Pour l'instant rien de bien méchant à craindre, mais à suivre et à surveiller si cette intelligence artificielle "apprend" de manière efficace à singer ce qui est attendu.

C'est clairement assez plat ; après, on peut lui demander de justifier ses affirmations avec des citations de philosophes. Ça donne un peu plus de consistance à la "réflexion" de la machine.

En tous cas, c'est aussi un bel outil pour générer des fake news.
Les "bullshit jobs" dans la communication sont potentiellement menacés (à moyen terme) par ces nouveaux moyens de générer du verbiage.

J'ai demandé à mes élèves d'écrire un sonnet pendant les vacances de noël. Rien de bien compliqué j'évalue juste que la forme soit à peu près respectée.
2 élèves m'ont rendu des devoirs que je soupçonne très fortement n'être pas de leur plume. Est-ce qu'il y a moyen de vérifier si ça a été produit par cette IA ?
J'ai fait une recherche google mais je n'ai pas trouvé le régime de "leurs" textes.

Personnellement, j'ai testé plusieurs fois la production de poèmes sur un thème donné. En vers libres, ça passe encore. L'IA structure bien le texte en différentes strophes. La progression est cohérente. Le développement aussi. Il n'y a pas d'erreurs orthographiques. Le texte est très bien ponctué. Je pourrais facilement mettre une assez bonne note à un élève de collège qui écrirait comme cela. Pour un élève de lycée, je trouverais ça un peu simplet.

Je trouve que le résultat n'est pas très "poétique". Cela ressemble plutôt à des récits écrits avec retour à la ligne pour imiter les vers, avec quelques anaphores en début de strophe. Je trouve que cela se rapproche de la poésie du quotidien. Quand je lui demande d'ajouter des figures de style en particulier, le résultat ne me semble pas à la hauteur : l'IA ne parvient pas à formuler des métaphores intéressantes par exemple. Quand je lui demande des vers classiques, elle n'est pas capable de faire une série d'alexandrins avec coupe à la césure et prise en compte du e muet. Quand j'essaie de l'orienter pour reformuler de vrais alexandrins, je trouve que cela reste insatisfaisant. Une fois sur trois ou quatre vers, l'alexandrin est juste. Pour les rimes, c'est très aléatoire également. Cela ressemble davantage à des assonances.

A mon avis, le fait qu'il n'y ait aucune erreur orthographique et surtout que la ponctuation soit bien présente et juste peut faire penser à l'IA. Souvent, les élèves ne ponctuent pas (correctement) les poèmes. De même, savoir structurer un discours ou un récit de manière cohérente est difficile quand on écrit un poème. Les élèves, du moins en collège, partent souvent dans tous les sens d'une strophe à l'autre et ne sont pas capables, comme l'IA, de trouver une véritable conclusion à leur texte. Mais cela n'est que mon avis. Bon courage!

Il n'y a que moi à trouver inquiétant que le critère essentiel de notre test de Turing soit l'incompétence des humains qui nous sont confiés ?

C'est bien beau mais ça reste une IA et quelqu'un a semble-t-il développé une application anti triche

https://twitter.com/edward_the6/status/1610067688449007618

Son appli s'appelle GPTZero : http://gptzero.me/

Je pense que ce genre d'IA va surtout être utile pour écrire du code et faire du développement ... même s'il restera à debug le code de l'IA ...

Cath a écrit:J'ai demandé à mes élèves d'écrire un sonnet pendant les vacances de noël. Rien de bien compliqué j'évalue juste que la forme soit à peu près respectée.
2 élèves m'ont rendu des devoirs que je soupçonne très fortement n'être pas de leur plume. Est-ce qu'il y a moyen de vérifier si ça a été produit par cette IA ?
J'ai fait une recherche google mais je n'ai pas trouvé le régime de "leurs" textes.

Plus de chance que ce soit leurs parents qu'une I.A.

LordAnthony a écrit:Pour ma part j'ai arrêté le test au moment où on m'a demandé mon numéro de téléphone.

+ 1

Fesseur Pro a écrit:

LordAnthony a écrit:Pour ma part j'ai arrêté le test au moment où on m'a demandé mon numéro de téléphone.

+ 1

C'est seulement pour s'inscrire, non ? Pour obtenir un code de confirmation je crois.

Oui mais bon...

Ponocrates a écrit:Il n'y a que moi à trouver inquiétant que le critère essentiel de notre test de Turing soit l'incompétence des humains qui nous sont confiés ?

Tout à fait d'accord ! Il est stupéfiant que ce soit à leurs erreurs que l'on reconnaisse les productions de nos élèves ... même si c'est malheureusement un réalité dans de très nombreux cas !

Leoh59 a écrit:

Fesseur Pro a écrit:

LordAnthony a écrit:Pour ma part j'ai arrêté le test au moment où on m'a demandé mon numéro de téléphone.

+ 1

C'est seulement pour s'inscrire, non ? Pour obtenir un code de confirmation je crois.

Le problème est qu'il faut croire les concepteurs sur parole quand ils disent qu'ils ne conservent et n'exploitent pas cette donnée.

J'ai essayé de m'inscrire en utilisant un service de réception de SMS en ligne, mais le site a trouvé une parade.

Un petit test intéressant suite à une vidéo postée par un collègue :



J'ai donc posé une question spécifique à Louis XIV, et à ses rapports avec la religion. Il y avait toujours une erreur à propos de l’Édit de Nantes. L'IA a bien pris en compte sa bévue.. Reste à voir si cet "apprentissage" sera impactant pour d'autres utilisateurs... Au passage, son expression "tolérance religieuse limitée" est amusante  



Edit : dans la réponse suivante, il a connaissance des Huguenots :



Nul doute que ce genre d'assistant virtuel va progresser rapidement, s'il prend en compte et corrige ses erreurs. Comme Wikipédia, en somme. A moins que les correcteurs soient malintentionnés et lui racontent des foutaises (comme Wiki, après tout...)

Ben moi, j'ai beau lui dire que je ne suis pass d'accord, que ce que j'affirme est ce qu'on trouve dans tous les livres de référence en France, il n'en démord pas et me conseille de regarder dan sle petit Larousse (qui donne mas définition). Il est têtu !

nonoreno a écrit:Un petit test intéressant suite à une vidéo postée par un collègue :



J'ai donc posé une question spécifique à Louis XIV, et à ses rapports avec la religion. Il y avait toujours une erreur à propos de l’Édit de Nantes. L'IA a bien pris en compte sa bévue.. Reste à voir si cet "apprentissage" sera impactant pour d'autres utilisateurs... Au passage, son expression "tolérance religieuse limitée" est amusante  



Edit : dans la réponse suivante, il a connaissance des Huguenots :



Nul doute que ce genre d'assistant virtuel va progresser rapidement, s'il prend en compte et corrige ses erreurs. Comme Wikipédia, en somme. A moins que les correcteurs soient malintentionnés et lui racontent des foutaises (comme Wiki, après tout...)

Tout cela est en effet très intéressant (la vidéo comme le test qui la suit). On voit bien la puissance et les limites à l'heure actuelle.

(Juste un détail, pour les registres d'état civil, le programme informatique a dû manquer un mot-clé important mais n'est pas complètement à côté de la plaque : sous Louis XIV c'est la tenue des registres en double qui fait son apparition, même si la pratique ne sera réellement consolidée qu'après lui — le programme a donc mal digéré les infos glanées ici ou là mais je n'irais pas jusqu'à lui répondre «pas du tout» sur ce point comme le fait le professeur dans la vidéo, Louis XIV a bien renforcé l'État français via des mesures liées à l'état civil).

C'est un meilleur traducteur que google traduction...

Kilmeny a écrit:C'est un meilleur traducteur que google traduction...

Meilleur que deepl.com ? Je n'ai pas encore testé la traduction... Mais vu qu'il se débrouille très bien en français, cela ne serait pas étonnant.

Les mises à jour du bot sont probablement incrémentales.

La dernière MAJ date du 15 décembre 2022. Les erreurs suggérées par les utilisateurs seront peut-être corrigées lors de la prochaine MAJ...

On a un peu l'impression de parler à un robot qui apprend à marcher. Au fil des itérations, il finit par corriger ses bêtises, pour tenter de se maintenir debout.

Le nerf de la guerre, ça semble être le corpus de docs ingérés par la machine...

Actuellement, GPT3 se base sur 175 milliards de paramètres.

La prochaine version serait capable de gérer 100 trillions de paramètres... GPT4 est censé arriver dans le courant de l'année 2023. Les mois qui arrivent seront passionnants... à suivre !

Bon dimanche

Source : https://twitter.com/AiBreakfast/status/1594720737075802113

What can we expect from GPT-4? 100 trillion parameters is a lot. To understand just how big that number is, let’s compare it with our brain. The brain has around 80–100 billion neurons (GPT-3’s order of magnitude) and around 100 trillion synapses. GPT-4 will have as many parameters as the brain has synapses. The sheer size of such a neural network could entail qualitative leaps from GPT-3 we can only imagine. We may not be able to even test the full potential of the system with current prompting methods. However, comparing an artificial neural network with the brain is a tricky business. The comparison seems fair but that’s only because we assume artificial neurons are at least loosely based on biological neurons. A recent study published in Neuron suggests otherwise. They found that at least a 5-layer neural network is needed to simulate the behavior of a single biological neuron. That’s around 1000 artificial neurons for each biological neuron. Source : https://towardsdatascience.com/gpt-4-will-have-100-trillion-parameters-500x-the-size-of-gpt-3-582b98d82253

Une excellente vidéo pour comprendre ce qu'il y a sous le capot de chat GPT :

https://indymotion.fr/w/qBCr9P7f9oE2DPtkCZCuCy

Ma conclusion personnelle est que ceux qui vont de façon certaine se retrouver au chômage sont les éditocrates et autres toutologues qui sévissent sur les plateaux télé.

Je n'y connais rien en intelligence artificielle - mais quand je vois comme en quelques années l'IA a changé le monde (très confidentiel et restreint, sans doute ) du jeu d'échecs, je me dis qu'il faut se méfier de ce que ça donnera dans quelques années, et qu'on aurait bien tort de se moquer aujourd'hui.

Pour avoir survolé Stockfish un des meilleurs programmes d'échecs, il n'y a pas trop d'AI ni de concepts révolutionnaires par rapport à ce que l'on connaissait depuis 40 ans, plutôt une force combinatoire invraisemblable dont l'implémentation est rendue possible par les progrès de la physique des semis conducteurs et des designers d'ordinateurs. Alpha go zéro semble différent mais moins documenté.

Alpha Zéro écrase Stockfish, justement.