ChatGPT et triche avec intelligence artificielle

gaisou a écrit:Tu peux taper la production sur chat gpt, et lui demander si ce texte a été créé par chat gpt. Si c'est le cas tu auras une réponse par l'affirmative par chat gpt.

Vous avez déjà testé cela ? Avec une production qui ne soit pas liée à votre compte mais à celui de quelqu'un d'autre ?

Non, je n'ai pas testé avec un autre compte que le mien. A tester donc dans ce cas.

Je doute de la possibilité d'avoir une réponse claire et fiable à coup sûr en procédant ainsi.

Voilà ce qu'il répond lorsque je lui pose la question au sujet d'un paragraphe dont je suis l'auteur:

Il est a noter que chatgpt semble prendre plus de précautions oratoires et est moins affirmatif pour ton test
Or on peut penser qu'un élève lambda se sera contenté d'un copier coller, pour le coup plus facilement reconnaissable par chatgpt.

gaisou a écrit:Il est a noter que chatgpt semble prendre plus de précautions oratoires et est moins affirmatif pour ton test
Or on peut penser qu'un élève lambda se sera contenté d'un copier coller, pour le coup plus facilement reconnaissable par chatgpt.

Sans doute. Mais rien n'exclut absolument qu'un texte dont la syntaxe est correcte et le contenu dépourvu d'erreurs manifestes soit reconnu par ChatGPT comme éventuellement "sien" alors qu'il a été produit par un élève. Il est possible cependant, comme tu le dis, que l'expression de certaines précautions par l'IA suffise à faire la différence - je n'en sais rien.

Un peu à côté du sujet du fil peut-être, mais je ne vois pas d'autre endroit où poster cette info en rapport avec l'IA.

Un article publié aujourd'hui par Le Monde:

Intelligence artificielle : un plan d’action pour placer la France « à la pointe »

Cette technologie représente un gisement potentiel de croissance et d’emplois, selon un rapport, remis le 13 mars à Emmanuel Macron, par une commission mandatée sur le sujet. Mais certaines recommandations pourraient faire polémique.

Un passage concerne l'éducation:

Dans l’éducation nationale, le rapport propose aussi d’encourager « dès aujourd’hui l’utilisation individuelle dans la préparation des cours, l’appui administratif et la formation ponctuelle aux enseignants ». Il est conseillé de « favoriser le plus possible l’expérimentation », notamment dans des académies dites « pilotes ». Les épreuves de concours de recrutement des enseignants devraient, elles, « intégrer l’usage des services numériques et de l’IA dès la session 2025 ».

Je ne sais pas si le site a déjà été mentionné sur ce fil (26 pages à relire, cela fait beaucoup).
https://www.zerogpt.com/fr/ détecte gratuitement les textes générés par une IA.

Isis39 a écrit:Je ne sais pas si le site a déjà été mentionné sur ce fil (26 pages à relire, cela fait beaucoup).
https://www.zerogpt.com/fr/ détecte gratuitement les textes générés par une IA.

Je connais cet outil. J'ai l'impression que ce n'est pas très fiable. Je viens de refaire le test avec des textes que j'ai écrits (promis, je n'ai pas pompé... ). Verdict: je suis une IA à au moins 60%...

EDIT: je viens même d'atteindre 100% à mon troisième essai.

Oui, mais un texte généré par une IA monterait à combien ?

Il faudrait essayer. Mais logiquement le verdict semble d'autant plus fiable que le texte est long, ce qui est annoncé par le site d'ailleurs.

Sur un texte personnel court (449 caractères), je suis à 100% une IA.




En revanche sur un texte un peu long (3247 caractères), il reconnaît la production comme humaine à 100%.



La nature du texte joue peut-être aussi: définition générale d'une notion dans le premier cas, analyse d'une œuvre dans le deuxième.

Un élève s'est manifestement servi de ChatGPT pour une expression écrite en classe...ne l'ayant pas pris sur le fait je n"+> pas mis zéro mais "non évalué".

Pour tester ledit ChatGPT, discussion littéraire avec lui hier et il a fait deux erreurs assez grossières (mauvaise nationalité pour une romancière et mauvaise œuvre attribuée à un autre auteur...).

Un élève s'est servi de chatGPT pour rédiger un programme Python en classe (en SNT) : c'était un TP noté pour lequel  ils avaient accès à leur cours et aux TP précédents... mais lui a juste demandé à chatGPT (facileqpuisqu'on est sur ordinateur) qui lui a rédigé un programme utilisant des notions et syntaxes inconnues.... mais évidemment il jure l'avoir fait lui-même et est prêt à le refaire devant moi!
Je le soupçonne d'apprendre par coeur son programme d'ici là... bien sûr je vais changer le sujet.
C'est usant ces tricheurs....

Pat B a écrit:Un élève s'est servi de chatGPT pour rédiger un programme Python en classe (en SNT) : c'était un TP noté pour lequel  ils avaient accès à leur cours et aux TP précédents... mais lui a juste demandé à chatGPT (facileqpuisqu'on est sur ordinateur) qui lui a rédigé un programme utilisant des notions et syntaxes inconnues.... mais évidemment il jure l'avoir fait lui-même et est prêt à le refaire devant moi!
Je le soupçonne d'apprendre par coeur son programme d'ici là... bien sûr je vais changer le sujet.
C'est usant ces tricheurs....

Oui, ça devient de plus usant et pénible, et évidemment ils nient, ils ont appris par cœur, ils prennent des airs tragiques, "Vous me connaissez monsieur, vous savez que je ne suis pas un tricheur" etc

Pour tester ledit ChatGPT, discussion littéraire avec lui hier et il a fait deux erreurs assez grossières (mauvaise nationalité pour une romancière et mauvaise œuvre attribuée à un autre auteur...).

J'ai aussi testé chatGPT en lui demandant de m'aider à établir une liste d'ouvrages à consulter pour mon mémoire (je repasse un M2), et soit les références sont complètement fausses (nom de l'ouvrage qui ne correspond pas à l'auteur ... pour des références plutôt classiques, j'étais très surprise !), soit introuvables (ouvrages qui n'existent pas !) soit inintéressantes. Sur 60 références, pas une seule n'a pu me servir ! Pourtant, au premier coup d’œil, cette liste avait l'air très sérieuse !

Phénomène connu de l' "hallucination" de l'IA qui, par nature, n'est pas capable de distinguer le vrai du vraisemblable. Voir ce fait divers éloquent : https://www.radiofrance.fr/franceinter/un-avocat-americain-a-utilise-chatgpt-pour-preparer-un-proces-et-n-a-cite-que-des-faux-arrets-3833906

Cela dit, les codeurs essayent de remédier au phénomène et des progrès seront visibles dans les prochaines années.

Stratos a écrit: Phénomène connu de l' "hallucination" de l'IA qui, par nature, n'est pas capable de distinguer le vrai du vraisemblable. Voir ce fait divers éloquent : https://www.radiofrance.fr/franceinter/un-avocat-americain-a-utilise-chatgpt-pour-preparer-un-proces-et-n-a-cite-que-des-faux-arrets-3833906

Cela dit, les codeurs essayent de remédier au phénomène et des progrès seront visibles dans les prochaines années.

C'est à la fois drôle et effrayant.

Kihya a écrit:

Pour tester ledit ChatGPT, discussion littéraire avec lui hier et il a fait deux erreurs assez grossières (mauvaise nationalité pour une romancière et mauvaise œuvre attribuée à un autre auteur...).

J'ai aussi testé chatGPT en lui demandant de m'aider à établir une liste d'ouvrages à consulter pour mon mémoire (je repasse un M2), et soit les références sont complètement fausses (nom de l'ouvrage qui ne correspond pas à l'auteur ... pour des références plutôt classiques, j'étais très surprise !), soit introuvables (ouvrages qui n'existent pas !) soit inintéressantes. Sur 60 références, pas une seule n'a pu me servir ! Pourtant, au premier coup d’œil, cette liste avait l'air très sérieuse !

Tu as testé la version payante ?

Pat B a écrit:Un élève s'est servi de chatGPT pour rédiger un programme Python en classe (en SNT) : c'était un TP noté pour lequel  ils avaient accès à leur cours et aux TP précédents... mais lui a juste demandé à chatGPT (facileqpuisqu'on est sur ordinateur) qui lui a rédigé un programme utilisant des notions et syntaxes inconnues.... mais évidemment il jure l'avoir fait lui-même et est prêt à le refaire devant moi!
Je le soupçonne d'apprendre par coeur son programme d'ici là... bien sûr je vais changer le sujet.
C'est usant ces tricheurs....

Il n'est pas très doué car on peut facilement demander à chatGPT de n'utiliser qu'un type de boucle, ou de faire sans telle ou telle fonction qu'il propose d'utiliser ... ou même de lui proposer la structure du programme et de la compléter!

J'ai dit à mes élèves que oui, ils pouvaient se servir de chatGPT pour préparer leurs eprives orales de fin d'année mais qu'il fallait vérifier, adapter, s'en servir comme un point de départ, pas prendre un texte tel quel (j'ai un spécimen qui est persuadé qu'il va trouver un grand oral tout prêt sur TikTok, chatGPT ou autre...)

Je me rappelle d'un échange avec Bard (Google) à propos de mon restaurant chinois préféré (qu'il connaissait). Je lui demande de me recommander un autre restaurant du même genre (car il était fermé pour cause de congés annuels). Il m'a inventé plusieurs noms et adresses, avec numéros de téléphone, descriptifs des spécialités, des logos et des devises des lieux (et même de faux avis Google !). A la fin, je lui demande si ce sont des restaurants réels ou imaginaires. Réponse : imaginaires. Je reprends donc ma série de questions depuis le début en précisant que je cherche des adresses réelles. Mêmes réponses de la part de l'IA. Je lui demande si les lieux sont réels ou imaginaires. Réponse : réels (il reconnaît s'être trompé). Des personnes réelles y mangent-elles de la nourriture réelle ? Oui. Etc.

Pat B a écrit:Un élève s'est servi de chatGPT pour rédiger un programme Python en classe (en SNT) : c'était un TP noté pour lequel  ils avaient accès à leur cours et aux TP précédents... mais lui a juste demandé à chatGPT (facileqpuisqu'on est sur ordinateur) qui lui a rédigé un programme utilisant des notions et syntaxes inconnues.... mais évidemment il jure l'avoir fait lui-même et est prêt à le refaire devant moi!
Je le soupçonne d'apprendre par coeur son programme d'ici là... bien sûr je vais changer le sujet.
C'est usant ces tricheurs....

L’enseignement de la programmation devient problématique: certains jouent le jeux c’est à dire apprennent véritablement sans ChatGpt, mais d’autres l’utilisent sans complexe. C’est quand il faut évaluer que ça se complique. ChatGpt produit du code qui répond à la question. Donc objectivement il n’est pas possible de mettre une mauvaise note, même s’il est évident que l’élève ne maîtrise pas ce qu’il a rendu (du code donc) . Et ceux qui essayent de programmer seul et se plantent ont une mauvaise note. Je n’ai pas encore trouver la solution….

Pat B a écrit:Un élève s'est servi de chatGPT pour rédiger un programme Python en classe (en SNT) : c'était un TP noté pour lequel  ils avaient accès à leur cours et aux TP précédents... mais lui a juste demandé à chatGPT (facileqpuisqu'on est sur ordinateur) qui lui a rédigé un programme utilisant des notions et syntaxes inconnues.... mais évidemment il jure l'avoir fait lui-même et est prêt à le refaire devant moi!
Je le soupçonne d'apprendre par coeur son programme d'ici là... bien sûr je vais changer le sujet.
C'est usant ces tricheurs....

Chez nous on bloque l'accès à internet depuis le PC professeur qui permet de contrôler tous les autres PC. Après ok pour coder sans Chat GPT en début d'apprentissage, mais ensuite c'est dommage de ne pas apprendre à coder avec, comme super assistant et comme le font sans doute les programmeurs. Il ne fait pas non plus tout correctement (la version gratuite), il faut apprendre à formuler ses demandes et à vérifier le résultat.

Dans beaucoup de domaines les IA génératives (comme ChatGPT) sont très utiles pour ceux qui maîtrisent le sujet (typiquement l'enseignant qui lui demande de produire un qcm ou plus largement un questionnaire, mais qui a la compétence nécessaire pour corriger la production, voire refaire un prompt etc). Nos élèves ou étudiants sont en train de se former: il faut qu'ils développent leurs réflexes, leurs aptitudes intellectuelles, une manière de pensée complexe. Or l'IA peut être très inhibitrice: sa production semble parfaite parce qu'apparemment cohérente.

nC33, vous utilisez quoi pour contrôler les PC élèves ? Veyon + Addon "Internet Access Control" payant ?

Ponocrates a écrit:Dans beaucoup de domaines les IA génératives (comme ChatGPT) sont très utiles pour ceux qui maîtrisent le sujet (typiquement l'enseignant qui lui demande de produire un qcm ou  plus largement un questionnaire, mais qui a la compétence nécessaire pour corriger la production, voire refaire un prompt etc). Nos élèves ou étudiants sont en train de se former: il faut qu'ils développent leurs réflexes, leurs aptitudes intellectuelles, une manière de pensée complexe. Or l'IA peut être  très inhibitrice: sa production semble parfaite parce qu'apparemment cohérente.

Merci. Je ne comprends pas comment ce discours qui confond les logiques d'apprentissage et d'application peut passer si facilement. "Si l'élève peut trouver les réponses sur Internet, c'est peut-être qu'on ne l'interroge pas correctement". Ben non, il n'est pas supposé faire de la recherche et apporter de nouvelles connaissances, juste acquérir les connaissances et développer les compétences que ceux qui sont déjà passés par là.

nc33 a écrit:

Pat B a écrit:Un élève s'est servi de chatGPT pour rédiger un programme Python en classe (en SNT) : c'était un TP noté pour lequel  ils avaient accès à leur cours et aux TP précédents... mais lui a juste demandé à chatGPT (facileqpuisqu'on est sur ordinateur) qui lui a rédigé un programme utilisant des notions et syntaxes inconnues.... mais évidemment il jure l'avoir fait lui-même et est prêt à le refaire devant moi!
Je le soupçonne d'apprendre par coeur son programme d'ici là... bien sûr je vais changer le sujet.
C'est usant ces tricheurs....

Chez nous on bloque l'accès à internet depuis le PC professeur qui permet de contrôler tous les autres PC. Après ok pour coder sans Chat GPT en début d'apprentissage, mais ensuite c'est dommage de ne pas apprendre à coder avec, comme super assistant et comme le font sans doute les programmeurs. Il ne fait pas non plus tout correctement (la version gratuite), il faut apprendre à formuler ses demandes et à vérifier le résultat.

Pourquoi parler de triche ? Est-ce de la triche d'utiliser l'aide d'un logiciel ? Souvent quand on élabore un programme alors on utilise l'aide, qui donne des exemples et des réponses. Si on ne veut pas que les élèves utilisent internet pendant un TP alors il faut couper internet. Sinon c'est comme demander à des élèves de réciter les tables de multiplication sans regarder la grande affiche accrochée au mur...

L'accès au cours est aussi considéré comme de la triche pour d'autres profs, quand on a le droit à tout, où commence la triche ? On a un ordinateur a disposition, alors je pense qu'il est assez logique de l'utiliser de manière optimale pour répondre aux questions. Si un élève utilise une clef usb ressource avec des centaines de TP Python est-ce de la triche ? Et pour revenir à l'aide d'un logiciel, il n'est pas rare en collège que des élèves sur tableur utilisent des fonctions non apprises en cours pour effectuer un exercice. Ils me demandent même de l'aide, pour utiliser cette fonction et moi aussi je peux consulter l'aide voire internet pour les aider car je ne connais pas bien toutes les syntaxes.
Sans passer par chat gpt, dès qu'on a accès à internet alors on peut simplement faire une recherche qui va nous donner des réponses assez précises pour répondre à un TP Python. Et on pourra utiliser des nouvelles syntaxes. Si on ne veut pas de telles aides, alors il faut couper internet et interdire les interfaces externes (clef USB ou autres...) et aussi les téléphones portables...