ChatGPT et triche avec intelligence artificielle

Bonsour a tous,

La presse fait les gros titres du l'utilisation de cette intelligence artificielle pour tricher.

Vous avez essayé ? Détecté des triches ?

Vous pouvez ouvrir un compte au lien suivant et interroger chatgpt en francais: https://openai.com/blog/chatgpt/

En techologie j'ai essayé, aucune de mes dix questions n'a été traitée correctement, même si il y avait parfois du vrai.

Je pense en tout cas avoir trouvé comment se débarasser de copier rédigées par chat gpt: cette a.i. est incapable le citer les sources de son texte. Il  est donc suffisant de demander aux élèves de-citer leurs sources ?

J'ai testé. En dissertation, ça donne une base, mais sans méthode. Ce sont des devoirs auxquels je ne mettrais pas la moyenne.

Oui, mais ce n'est que le début. 
De mon côté, j'ai demandé à l'IA de créer des exercices pour les élèves.  J'ai indiqué les critères, le niveau,  etc.
J'avoue que c'est cette part là qui me fait le plus peur.

C'est le côté instantané de la réponse apportée, et donc la perte du sens de l'effort , qui est aussi un vrai plaisir, qui m'inquiète personnellement. Chercher, essayer, se heurter à
la difficulté mais persévérer... Cet outil est dangereux humainement parlant aussi. On n'arrête pas le progrès technologique, certes , mais est- ce un progrès ici?

Bonjour,
Suite au buzz autour de cet outil, je l’ai essayé rapidement sur des questions techniques en programmation. J’avoue avoir été bluffé. L’outil a été capable de produire du code correct à partir d’un énoncé en français plutôt succinct. Je réviserai probablement certains devoirs à la maison mais aussi mes évaluations, notamment les questions de cours. En revanche, les réponses données devraient être assez facilement identifiables je crois (je parle d’un sujet technique, pour les autres matières c’est peut être plus compliqué à repérer).

Il y déjà eu un fil sur le sujet non ?

Il est dommage que la discussion se concentre sur les possibilités de triche, alors que les conséquences sont bien plus larges : on a une IA capable de produire, à la demande, des textes sous contrainte. Et même si les résultats actuels ne sont pas toujours terribles, ils peuvent être potentiellement améliorés si quelqu'un décide d'y mettre les moyens.

La rédaction de supports pédagogiques pourrait être une application, par exemple.

J'ai testé pour demander des écrits concernant la direction et la communication auprès divers partenaires, type demande de sortie ski. C'est très efficace, tous les éléments apparaissent.
Mon conjoint chercheur a testé sur des questions scientifiques, là aussi cela restait très complet et juste, en tout cas du niveau de bons étudiants de L3.

LeDuc a écrit:Bonjour,
Suite au buzz autour de cet outil, je l’ai essayé rapidement sur des questions techniques en programmation. J’avoue avoir été bluffé. L’outil a été capable de produire du code correct à partir d’un énoncé en français plutôt succinct. Je réviserai probablement certains devoirs à la maison mais aussi mes évaluations, notamment les questions de cours. En revanche, les réponses données devraient être assez facilement identifiables je crois (je parle d’un sujet technique, pour les autres matières c’est peut être plus compliqué à repérer).

Est-ce que tu peu si il te plait nous donner des exemples ?

Moi j'ai demandé 'Écrit un programme pour allumer et éteindre une lampe avec un interrupteur' et ca n'a rien donné de bon.

Quel outil démoniaque!

Je le trouve également cela efficace bien que les énoncés produits soient d'une platitude affligeante... mais n'est-ce pas le cas de nombreux énoncés produits par nos gouvernants? Cela me paraît être une sorte de version améliorée de l'ENAtronic / pipotron qui a déjà quelques années : http://chrisferon.free.fr/technologies-langage/pipotron-discours-ena.php il ya la version pdf du cours de langue de bois:  http://chrisferon.free.fr/technologies-langage/images/cours-langue-bois-ena.jpg

Le chatgpt le fait aussi en langue étrangère. J'ai testé une "dissertation sur l'amour" en français, en espagnol, en italien et en anglais. C'était à chaque fois la même, plutôt bien traduite malgré quelques petites erreurs. Après c'était court pour une dissertation (6 petits paragraphes) et mal organisé: manque de méthode et de profondeur. Mais par exemple pour un devoir en LV au collège ou lycée je pense que ce serait très bien...Ou pour prémacher le travail et avancer encore plus dans ce monde où le goût et le de l'effort ne seront plus.

Si le devoir d'invention n'avait pas été supprimé en lycée, les collègues de Lettres auraient eu un énorme souci à se faire: j'ai vu sur d'autre réseaux sociaux des textes générés à partir de consigne sur le contenu et le ton à employer et c'était toujours correct, pas transcendant, mais déjà mieux écrit que ce que produisent nombre d'élèves.

C'est extrêmement inquiétant selon moi: jusque-là, je me disais qu'enseignant de français était un métier qui aurait encore longtemps une raison d'être. Mais puisque l'IA produit des textes corrects (et sa capacité de traitement de l'information et donc de "réflexion" ne peut que s'améliorer avec la pratique), il suffira bientôt d'apprendre aux gens à utiliser une IA pour qu'ils aient des textes rédigés (ce qui reste une compétence langagière mais du niveau en dessous). Cela fait déjà quelques années que je mets en garde les personnes souhaitant se tourner vers la traduction comme métier, parce que les progrès de l'IA et sa rapidité de traitement vont condamner à moyen terme le gros de la profession, maintenant ce sont tous les métiers de pisse-copies (le faux journalisme tellement apprécié parce qu'il ne coûte pas cher et ne remet pas en question les discours officiels, les éléments de communication pour une entreprise sur les réseaux sociaux ou son site) qui sont en danger à horizon 5,10 ans.
Et toute la partie apprentissage de l'esprit critique (qui fait si peur aux différents pouvoirs et explique la haine attisée contre nous) disparaîtra alors avec la plus grande partie de la profession, pour ne plus former qu'à l'utilisation d'outils qui seront devenus payants. J'en suis à m'interroger sur les métiers qui existeront encore dans 15 ans, sachant que l'IA peut maintenant aussi produire du code, que d'autres posent des diagnostics etc.

Purée, je n'avais pas pensé a l'utiliser en traducteur, il a l'air vraiment bon traduire les quelques textes que j'ai essuyé !

Ponocrates a écrit:C'est extrêmement inquiétant selon moi: jusque-là, je me disais qu'enseignant de français était un métier qui aurait encore longtemps une raison d'être. Mais puisque l'IA produit des textes corrects (et sa capacité de traitement de l'information et donc de "réflexion" ne peut que s'améliorer avec la pratique), il suffira bientôt d'apprendre aux gens à utiliser une IA pour qu'ils aient des textes rédigés (ce qui reste une compétence langagière mais du niveau en dessous).

En maths on a l'équivalent depuis longtemps avec les calculatrices de plus en plus « intelligentes », dont les modèles haut de gamme font non seulement les 4 opérations et les fonctions usuelles mais aussi des tracés de courbe, des statistiques, des calculs de dérivées… et même si contrairement à ce que prédisait Allègre on recrute encore des professeurs de mathématiques, il faut bien chercher pour en voir en train d'enseigner les mathématiques dans l'enseignement scolaire, et on en voit aujourd'hui les conséquences sur une puissance nucléaire majeure devenue infoutue de construire une nouvelle centrale dans des délais raisonnables.

(PS: je pense que c'est possible, et souhaitable, de bannir complètement les calculatrices des cours et évaluations de mathématiques jusqu'au DNB inclus)

Bonjour ,

je la teste et je joue avec elle depuis 10 jours et à mon humble avis elle a encore besoin de s'améliorer en maths , car si elle raisonne juste par contre elle calcule souvent faux : pour l'instant je reste bien meilleure qu'elle (heureusement , car je vis de cours particuliers).
par contre je pense que pour ceux qui vivent de la programmation informatique , il y a du souci à se faire ,dans la mesure ou elle sait produire des programmes qui marchent et ce dans n'importe quel langage , y compris en assembleur (j'ai testé). Pour l'orthographe et la grammaire , c'est redoutable , pour les poèmes elle est bien meilleure que 99% des gens à mon avis. Et les traductions dans des langues exotiques (genre le chinois) c'est nickel.
en passant si vous avez ds QCM à faire , c'est possible , même 5 minutes avant d'aller en cours , et cela vous laisse le temps de boire un café : aorès il faut encore que la photocopieuse du collège fonctionne !

mieux que ça , donnez lui un texte un peu esotérique et demandez lui de l'adapter pour un enfant de 5 ans , et bien elle y arrive sans aucun problème.
sur ce coup je crois que ca va être dur cette fois de faire comme si l'outil n'existait pas.

Bon courage

Mathador a écrit:

Ponocrates a écrit:C'est extrêmement inquiétant selon moi: jusque-là, je me disais qu'enseignant de français était un métier qui aurait encore longtemps une raison d'être. Mais puisque l'IA produit des textes corrects (et sa capacité de traitement de l'information et donc de "réflexion" ne peut que s'améliorer avec la pratique), il suffira bientôt d'apprendre aux gens à utiliser une IA pour qu'ils aient des textes rédigés (ce qui reste une compétence langagière mais du niveau en dessous).

En maths on a l'équivalent depuis longtemps avec les calculatrices de plus en plus « intelligentes », dont les modèles haut de gamme font non seulement les 4 opérations et les fonctions usuelles mais aussi des tracés de courbe, des statistiques, des calculs de dérivées… et même si contrairement à ce que prédisait Allègre on recrute encore des professeurs de mathématiques, il faut bien chercher pour en voir en train d'enseigner les mathématiques dans l'enseignement scolaire, et on en voit aujourd'hui les conséquences sur une puissance nucléaire majeure devenue infoutue de construire une nouvelle centrale dans des délais raisonnables.

(PS: je pense que c'est possible, et souhaitable, de bannir complètement les calculatrices des cours et évaluations de mathématiques jusqu'au DNB inclus)

Je ne me leurre pas sur les effets délétères sur notre société qu'aura l'évolution actuelle et sur la dramatique perte de compétences (parce qu'il n'y a pas de passage de témoin et que dans de nombreux domaines techniques on recrute des exécutants, pas ceux capables d'avoir une vue d'ensemble et de comprendre comment fonctionne l'existant pour le réparer ou l'améliorer si besoin) à l'oeuvre aujourd'hui. Et je suis bien d'accord sur le fait qu'il faudrait bannir les outils actuels (traitement de texte, calculatrice) au moins jusqu'à la fin du collège pour que tous les élèves aient les bases. Mais ce n'est pas du tout la direction que cela prend.

Beaucoup de métiers autour de la communication et la création risquent de disparaître. Si seulement elle pouvait aussi faire disparaître ce que sont les think tank. Mais qu'en sera-t-il quand les politiques s'appuieront sur elle, considérant ce qu'elle produit comme le vrai.
 ?
Nous aurons des métiers qui vérifierons seulement le contenu de l'IA sans le produire et nous verrons des métiers dis paraître comme les ouvriers ont vu disparaître leur métier au profit des robots.
On peut demander à l'IA de créer des slogans, etc.
Cette IA s'enrichit de tout ce qu'il y sur le net (sans citer ses sources).

Elle 'pense" dans toutes les langues.

trompettemarine a écrit:Beaucoup de métiers autour de la communication et la création risquent de disparaître. 
Nous aurons des métiers qui vérifierons seulement le contenu de l'IA sans le produire et nous verrons des métiers dis paraître comme les ouvriers ont vu disparaître leur métier au profit des robots.
On peut demander à l'IA de créer des slogans, etc.
Cette IA s'enrichit de tout ce qu'il y sur le net (sans citer ses sources).

C'est exactement ce que je pense. Une seule personne pourra gérer la communication quotidienne de 30 à 50 entreprises par exemple. La question du revenu universel va se poser très vite, avec la diminution drastique du nombre d'emplois.

Ponocrates a écrit:

trompettemarine a écrit:Beaucoup de métiers autour de la communication et la création risquent de disparaître. 
Nous aurons des métiers qui vérifierons seulement le contenu de l'IA sans le produire et nous verrons des métiers dis paraître comme les ouvriers ont vu disparaître leur métier au profit des robots.
On peut demander à l'IA de créer des slogans, etc.
Cette IA s'enrichit de tout ce qu'il y sur le net (sans citer ses sources).

C'est exactement ce que je pense. Une seule personne pourra gérer la communication quotidienne de 30 à  50 entreprises par exemple. La question du revenu universel va se poser très vite, avec la diminution drastique du nombre d'emplois.

Et les IA autocodantes, on en parle ? Les programmateurs ont des soucis à se faire dans un délai de plus en plus court...

Exact !

Des élèves de terminale l'utilisent déjà depuis quelques temps en philo. C'est de bonne guerre, nous aurions fait de même si nous avions eu ces outils à disposition... Cela ne m'inquiète pas plus que cela, car les lycéens concernés font beaucoup de fautes d'orthographe. Un travail sans coquilles (de leur part) est par définition suspect.

Je l'avais testé avec de très bons élèves, pour comparer leur travail fini avec les propositions de plans de Chat GPT.
Les résultats sont très bons en sciences humaines.

L'algorithme fait parfois des erreurs grossières, mais globalement, ça tient la route.

Exemple d'applications utiles pour gagner du temps :

Résume moi l'article suivant en proposant les 10 idées majeures du texte : "copier/coller d'un long texte"'
Réalise un tableau à partir des données suivantes : "copier/coller de données". L'IA réalise alors un tableau qu'il suffit ensuite de coller dans un tableur / ou un traitement de textes.

Réalise un QCM sur le thème suivant, à destination d'un élève de lycée : "..."

Et le rêve pour les élèves, pour passer sous les radars des programmes de plagiat :

Reformule moi le paragraphe suivant : "copier/coller d'un paragraphe".

ou même :

Propose moi un plan en trois parties et trois sous-parties sur le sujet suivant, avec une introduction et une conclusion : "copier/coller du sujet".

Au niveau de la programmation, il connait tous les langages (merci de m'écrire un programme de loterie en python / GFA Basic / C++)

Quelques compétences artistiques aussi : "Écrire un poème sur la réforme des retraites dans le style de Baudelaire et de Mallarmé".

Pour la traduction, deepl.com reste bien meilleur que ChatGPT.

Les faux mails seront plus crédibles si les organisations criminelles commencent à utiliser les compétences linguistiques de ces I.A....

nounours22 a écrit:Bonjour ,
...
en passant si vous avez ds QCM à faire , c'est possible , même 5 minutes avant d'aller en cours , et cela vous laisse le temps de boire un café : aorès il faut encore que la photocopieuse du collège fonctionne !
...

Bon courage

Ah bon? Comment fais-tu? Quelles consignes lui donnes-tu pour qu'elle réalise un QCM pertinent?
J'ai essayé pour voir mais le résultat laisse plus qu'à désirer.
:-)

Edit: à la lecture du message précédent, de Nonoreno, j'ai fait d'autres essais, plus fructueux. C'est qu'il faut bien expliciter les consignes!

Dhattura a écrit:

nounours22 a écrit:Bonjour ,
...
en passant si vous avez ds QCM à faire , c'est possible , même 5 minutes avant d'aller en cours , et cela vous laisse le temps de boire un café : aorès il faut encore que la photocopieuse du collège fonctionne !
...

Bon courage

Ah bon? Comment fais-tu? Quelles consignes lui donnes-tu pour qu'elle réalise un QCM pertinent?
J'ai essayé pour voir mais le résultat laisse plus qu'à désirer.
:-)

Edit: à la lecture du message précédent, de Nonoreno, j'ai fait d'autres essais, plus fructueux. C'est qu'il faut bien expliciter les consignes!

Tu peux lui proposer de réaliser un QCM à partir d'une leçon...

Exemple : "Réalise un QCM destiné à un élève de collège, à partir de la leçon suivante [suit un copier/coller d'une leçon trouvée dans un manuel scolaire]"

Je suis fasciné par ce logiciel. J'ai essayé de connaître son avis en demandant : "chatgpt représente-t-il un danger ?"
Sa réponse : "Je ne suis pas familiarisé avec la technologie ou le concept de chatgpt"...

Ryuzaki a écrit:Je suis fasciné par ce logiciel. J'ai essayé de connaître son avis en demandant : "chatgpt représente-t-il un danger ?"
Sa réponse : "Je ne suis pas familiarisé avec la technologie ou le concept de chatgpt"...

ChatGPT n'est pas le nom officiel ; en tapant ça, il répond à ta question :



L'idée, à terme, sera de coupler la robotique et l'intelligence artificielle. Avec le robot Ameca, couplé à GPT3, ça donne ça :



La reconnaissance vocale est impressionnante. Rendez-vous dans 15-20 ans, je n'ose imaginer les progrès à venir.

J'ai testé en physique, sur trois questions, il s'est planté deux fois, parce que pour ces questions, on ne peut pas traduire littéralement de l'anglais.

Par curiosité tu lui as demandé quoi ? Car a chaque fois après discussion il affine sa réponse, cela devient un outil conversationnel, ce n'est pas google.