ChatGPT et triche avec intelligence artificielle

ylm a écrit:Hier j'ai utilisé ChatGPT pour tricher : je lui ai donné toutes les appréciations d'un bulletin d'élève dont je suis professeur principal et lui ai demandé de m'écrire la synthèse. Et c'est cette synthèse (largement mieux écrite que les miennes...) que nous avons mis au bas du bulletin. Peut-être un moment historique, la première appréciation générale écrite par une IA sur un bulletin d'élève.

Test réalisé à partir d'un copier/coller d'appréciations générales faites au 1er trimestre. Le résumé est tout à fait valable, on pourrait le reprendre tel quel, en supprimant 2 ou 3 répétitions...



On imagine que bientôt, les logiciels de type Pronote intégreront une IA pour proposer une appréciation synthétique...

et en plus il marche pour absolument n'importe quelle classe: l'IA montre le chemin d'une certaine gestion allégée du métier.

Moi, j'aimerais bien que l'IA me corrige mes copies

Moi aussi !

En fait les IA procèdent par vérité statistique, ce qui fait qu’il est possible si j’ai bien compris que l’appréciation globale soit passe-partout. J’ai écouté une émission sur France Inter et l’IA a dit qu’un des journalistes avait écrit des livres, ce qui était faux. L’expert qui intervenait a expliqué que c’était parce que l’IA avait déduit des éléments à partir du fait qu’il était un journaliste connu, et que statistiquement les journalistes connus ont beaucoup de chances d’avoir écrit des livres.
Bref, on ferait mieux de ne pas garder toutes nos informations dans des ordinateurs, parce que si l’IA les corrige pour correspondre à une vérité statistique, c’est un peu ennuyeux quand même.
Sinon mon mari semble  avoir trouvé une parade, ce que les Américains appellent la dad’s joke, ou blague carambar (mon correcteur orthographique ne connaît pas carambar, ce qui dénote un manque de culture criminel). Il a demandé à Alexa qu’est-ce qui est petit, vert, qui monte et qui descend, et elle a correctement répondu. Je prévois un suicide massif chez les IA ou une grève une fois qu’elles comprendront les blagues (les copies peuvent fonctionner aussi sans doute).

dandelion a écrit:Il a demandé à Alexa qu’est-ce qui est petit, vert, qui monte et qui descend, et elle a correctement répondu.

ChatGPT :

Tu peux essayer de lui demander comment on ramasse les papayes?
Édit: les escargots verts, ça n’est pas courant (notez le jeu de mots), mais cette page de Wikipédia fera la joie des linguistes: https://en.wikipedia.org/wiki/Emerald_green_snail?oldid=598045278
Pourquoi penser à un escargot vert (rare) plutôt qu’à une grenouille?

Les limites par construction de GPT : il est condamné à faire du baratin et à s'ajuster au niveau de ses données d'entraînement.

dandelion a écrit:Tu peux essayer de lui demander comment on ramasse les papayes?

Je répondrais bien mais je n'ai pas envie d'éduquer une IA qui nous lirait...

dandelion a écrit:Notons que, quand j’étais jeune, il y avait de nombreuses personnes qui lisaient dans le métro. Maintenant, tout le monde regarde son portable et il est rare de voir un livre. Comme l’indique Iphigénie, nous sommes alors la proie des algorithmes, alors que la lecture est surtout question de sérendipité, particulièrement dans une ville riche en bouquinistes et bibliothèques.

Quand on a le malheur d'évoquer ça sur un réseau (a)social, il y a toujours quelqu'un pour vous enguirlander en vous expliquant qu'on peut aussi lire sur son téléphone. Je n'ai jamais le courage de répondre que au moins avec un livre, on est sûr.

Dame Jouanne a écrit:Moi, j'aimerais bien que l'IA me corrige mes copies

C'est très facile. Mais je refuse qu'on corrige mes copies à ma place et pourtant c'est toujours un moment pénible.

Taillevent a écrit:

dandelion a écrit:Tu peux essayer de lui demander comment on ramasse les papayes?

Je répondrais bien mais je n'ai pas envie d'éduquer une IA qui nous lirait...

dandelion a écrit:Notons que, quand j’étais jeune, il y avait de nombreuses personnes qui lisaient dans le métro. Maintenant, tout le monde regarde son portable et il est rare de voir un livre. Comme l’indique Iphigénie, nous sommes alors la proie des algorithmes, alors que la lecture est surtout question de sérendipité, particulièrement dans une ville riche en bouquinistes et bibliothèques.

Quand on a le malheur d'évoquer ça sur un réseau (a)social, il y a toujours quelqu'un pour vous enguirlander en vous expliquant qu'on peut aussi lire sur son téléphone. Je n'ai jamais le courage de répondre que au moins avec un livre, on est sûr.

Alors oui, on peut en effet lire sur son téléphone, et un certain nombre de personnes le font: j'ai une application Kindle ainsi que l'application du journal The Guardian avec des articles complets...mais la vérité m'oblige à dire que quand j'ai mon téléphone entre les mains j'ai plus la tentation de zoner sur les réseaux sociaux.  (d'où l'intérêt des liseuses: pas de tentations de faire autre chose que lire)..

dandelion a écrit:En fait les IA procèdent par vérité statistique, ce qui fait qu’il est possible si j’ai bien compris que l’appréciation globale soit passe-partout. J’ai écouté une émission sur France Inter et l’IA a dit qu’un des journalistes avait écrit des livres, ce qui était faux. L’expert qui intervenait a expliqué que c’était parce que l’IA avait déduit des éléments à partir du fait qu’il était un journaliste connu, et que statistiquement les journalistes connus ont beaucoup de chances d’avoir écrit des livres.
Bref, on ferait mieux de ne pas garder toutes nos informations dans des ordinateurs, parce que si l’IA les corrige pour correspondre à une vérité statistique, c’est un peu ennuyeux quand même.
Sinon mon mari semble  avoir trouvé une parade, ce que les Américains appellent la dad’s joke, ou blague carambar (mon correcteur orthographique ne connaît pas carambar, ce qui dénote un manque de culture criminel). Il a demandé à Alexa qu’est-ce qui est petit, vert, qui monte et qui descend, et elle a correctement répondu. Je prévois un suicide massif chez les IA ou une grève une fois qu’elles comprendront les blagues (les copies peuvent fonctionner aussi sans doute).

Oui finalement comme souvent l'IA n'est qu'une illusion d'intelligence artificielle. En vrai ce sont des statistiques qui se basent sur les créations humaines et donc si jamais un jour les humains utilisaient les IA à 100% et bien on tournerait en boucle sans aucune nouveauté. On devrait plutôt nommer cela la BA : bêtise artificielle. Mais, le problème c'est que c'est très dangereux, c'est tellement agréable de rester à l'âge du doudou...

Quand j'étais en licence, notre prof de logique, nous avait rassuré car on peut créer une véritable intelligence artificielle uniquement avec une mémoire infinie. Et même si on utilise des ordinateurs puissants à mon avis on est encore loin de la mémoire infinie et ce sera très long à obtenir surtout vers la fin...


Par contre, je m'interroge sérieusement sur un point qui m'énerve depuis plusieurs années, car certaines personnes pensent très utiles de fournir des calculatrices aux élèves pour apprendre à calculer. Donc je serais content de leur répondre que chat gpt serait une bonne idée pour toutes les rédactions. J'attends de voir les réactions des "spécialistes" qui m'ont expliqué haut et fort en réunion pédagogique que c'était une hérésie d'apprendre les tables de multiplication de nos jours !!! A cette réunion ma blague sur les enregistrements audios pour réciter une poésie n'avait pas tellement fait rire, la prochaine fois je vais faire de l'humour moderne avec chat gpt...

beaverforever a écrit:Les limites par construction de GPT : il est condamné à faire du baratin et à s'ajuster au niveau de ses données d'entraînement.

Intéressant pour les non-spécialistes comme moi.

Caspar a écrit:

Taillevent a écrit:

dandelion a écrit:Tu peux essayer de lui demander comment on ramasse les papayes?

Je répondrais bien mais je n'ai pas envie d'éduquer une IA qui nous lirait...

dandelion a écrit:Notons que, quand j’étais jeune, il y avait de nombreuses personnes qui lisaient dans le métro. Maintenant, tout le monde regarde son portable et il est rare de voir un livre. Comme l’indique Iphigénie, nous sommes alors la proie des algorithmes, alors que la lecture est surtout question de sérendipité, particulièrement dans une ville riche en bouquinistes et bibliothèques.

Quand on a le malheur d'évoquer ça sur un réseau (a)social, il y a toujours quelqu'un pour vous enguirlander en vous expliquant qu'on peut aussi lire sur son téléphone. Je n'ai jamais le courage de répondre que au moins avec un livre, on est sûr.

Alors oui, on peut en effet lire sur son téléphone, et un certain nombre de personnes le font: j'ai une application Kindle ainsi que l'application du journal The Guardian avec des articles complets...mais la vérité m'oblige à dire que quand j'ai mon téléphone entre les mains j'ai plus la tentation de zoner sur les réseaux sociaux.  (d'où l'intérêt des liseuses: pas de tentations de faire autre chose que lire)..

C'est absolument ça ! (Et je m'inclus totalement dans le problème.)

trompettemarine a écrit:

beaverforever a écrit:Les limites par construction de GPT : il est condamné à faire du baratin et à s'ajuster au niveau de ses données d'entraînement.

Intéressant pour les non-spécialistes comme moi.

J'ai l'impression qu'il y a des sceptiques et des enthousiastes. par contre, il me semble qu'il y a un point incontestable, chatgpt, de son propre aveu tire ses réponses de l'exploration des donnés du web, comme tu dis, il n'a donc aucune créativité ni esprit critique. La créativité n'est-elle pas une donnée majeure de l'intelligence? Bien pire, le jour où les pages qui affirment que la terre est plate seront majoritaire, n'aura t-on pas comme réponse à une question "Quelle est la forme de notre planète?" : "la terre est plate mais il est important de noter que quelques personnes contestent ce fait" ?
par contre pour les taches idiotes (ie faire une synthèse de bulletin, que je pense, personne à part peut-être un coup d’œil distrait de l'intéressé ne lit) en effet chatgpt peut être utile.

Manu7 a écrit:des "spécialistes" qui m'ont expliqué haut et fort en réunion pédagogique que c'était une hérésie d'apprendre les tables de multiplication de nos jours !!!

Les hérétiques ne sont pas ceux qu'ils croient.

Ponocrates a écrit:

Manu7 a écrit:des "spécialistes" qui m'ont expliqué hahut et fort en réunion pédagogique que c'était une hérésie d'apprendre les tables de multiplication de nos jours !!!

Les hérétiques ne sont pas ceux qu'ils croient.

J'ai fait des exercices de factorisation et développement avec ma fille mercredi. Elle aurait dû demander à chatGPT si elle ne connaissait pas ses tables.

micaschiste a écrit:

Ponocrates a écrit:

Manu7 a écrit:des "spécialistes" qui m'ont expliqué hahut et fort en réunion pédagogique que c'était une hérésie d'apprendre les tables de multiplication de nos jours !!!

Les hérétiques ne sont pas ceux qu'ils croient.

J'ai fait des exercices de factorisation et développement avec ma fille mercredi. Elle aurait dû demander à chatGPT si elle ne connaissait pas ses tables.

Tu sais, Manu, entendu de la bouche d'un directeur, qu'avec internet , pas besoin de cours. Il dirige un lepa dans lequel j'ai souffert du manque de bases que vous expertisez tous les jours.
La politesse, l'empathie ce monsieur aurait dû l'apprendre aussi. Non lui, il avait la goujaterie chevillée au cerveau et l'a toujours.
Je suis ravie que les 2 aînés de mes petits-ajoncs connaissent leurs tables et même numéro 3, encore en maternelle en joue.
Demandez à nos collègue de langues...
Moins le peuple en saura et plus les sachant auront les mains libres.
Un ex- collègue me disait très récemment que le niveau revient à celui de 1789, mais en 1789, les Français ( beaucoup) n'avaient pas appris alors qu'en 2023, ils n'ont rien appris.
Chat GPT vient de mettre le Mt Saint Michel en Bretagne... mais aussi les grottes de Lascaux.

Pour rire un peu, petit test effectué à l'instant :



On utilisera bientôt l'expression "être un chatGPT" pour désigner une personne influençable.

Dame Jouanne a écrit:Moi, j'aimerais bien que l'IA me corrige mes copies

Après les avoir écrites.

L’avenir radieux de l’enseignement.

Cela fait du bien de rire devant ces bêtises mais chat gpt3 gère 175 milliards de paramètres. Le 4 devrait en gérer 100 trillions.
On a certes encouragé, développé l'éducation pour émanciper les personnes. Mais, selon moi  cela a surtout été fait car l'économie a eu besoin de personnes mieux formées.
Je suis pessimiste mais avec de telles avancées technologiques j'ai peur qu'eduquer seulement une petite partie des hommes suffisent. Je crains de grandes crises sociales. Peut-être que je n'arrive pas à envisager les nouveaux emplois ? Peut être que je n'arrive pas à imaginer un nouveau monde financé autrement qu'aujourd'hui ?
Je reprends l'exemple de midjourney.
Les graphistes sont déjà concurrencés par des freelances partis travailler ou nés dans des pays où la vie est moins chère. Ils sont concurrencés par des plates-formes du genre 5euros.com. Aujourd'hui,  en plus on leur met midjourney dans les pattes. C'est la fin annoncée d'une énorme majorité de graphistes. Que vont-ils faire ? En plus, avec l'inertie de l'éducation nationale on va probablement continuer à en former autant pendant x années.
Et ceci est valable pour énormément d'emplois tertiaires.
Du primaire au secondaire puis au tertiaire au fil des ans... ok mais il va y avoir quoi ensuite ?
J'aurais envie de dire un retour aux métiers manuels non delocalisables et non remplaçables par l'IA ? Et pour le reste ? C'est sûrement mon côté pessimiste mais je vois arriver de grandes crises et de grands bouleversements societaux.
Je ne suis pas certain que l'éducation nationale soit un des postes principaux de dépense dans le futur.

Le vent se lève.

Ajonc35 a écrit:

micaschiste a écrit:

Ponocrates a écrit:

Manu7 a écrit:des "spécialistes" qui m'ont expliqué hahut et fort en réunion pédagogique que c'était une hérésie d'apprendre les tables de multiplication de nos jours !!!

Les hérétiques ne sont pas ceux qu'ils croient.

J'ai fait des exercices de factorisation et développement avec ma fille mercredi. Elle aurait dû demander à chatGPT si elle ne connaissait pas ses tables.

Tu sais, Manu, entendu de la bouche d'un directeur, qu'avec internet , pas besoin de cours. Il dirige un lepa dans lequel j'ai souffert du manque de bases que vous expertisez tous les jours.
La politesse, l'empathie ce monsieur aurait dû l'apprendre aussi. Non lui, il avait la goujaterie chevillée au cerveau et l'a toujours.
Je suis ravie que les 2 aînés de mes petits-ajoncs connaissent leurs tables et même numéro 3, encore en maternelle en joue.
Demandez à nos collègue de langues...
Moins le peuple en saura et plus les sachant auront les mains libres.
Un ex- collègue me disait très récemment que le niveau revient à celui de 1789, mais en 1789, les Français ( beaucoup) n'avaient pas appris alors qu'en 2023, ils n'ont rien appris.
Chat GPT vient de mettre le Mt Saint Michel en Bretagne... mais aussi les grottes de Lascaux.

Comme c'est très bien expliqué dans la vidéo ci-dessus, GPT ne cherche pas la bonne réponse, il formule la réponse qui convient le mieux suivant ses paramètres. Si on reste au niveau du vrai et du faux, et bien on passe à côté. Chat GPT me fait penser à Trump, et au populisme en général. La Terre plate, c'est comique. Mais si on repense aux vaccins contre le COVID, alors là on se dit que l'on rentre dans une période où les jeunes n'auront plus du tout les mêmes outils que nous pour se faire un avis. Nous avons des bases solides et on sait que la parole d'un scientifique est plus crédible, sauf quand les clignotants s'allument dans notre cerveau, comme avec le Pr Raoult.

Dans cette histoire de chat GPT et les dangers pour les compositions des élèves, je suis surpris par une telle hypocrysie, cela ne dérangeait personne qu'un devoir maison soit réalisé par une mère, un père, une soeur, un frère, un professeur à domicile, un étudiant à l'autre bout du monde ?

On dirait presque que c'est inadmissible car c'est à la portée de n'importe qui, n'importe quel quidam sans aucune culture familiale, sans moyen financier, c'est troublant.

Manu7 a écrit:

Ajonc35 a écrit:

micaschiste a écrit:

Ponocrates a écrit:

Les hérétiques ne sont pas ceux qu'ils croient.

J'ai fait des exercices de factorisation et développement avec ma fille mercredi. Elle aurait dû demander à chatGPT si elle ne connaissait pas ses tables.

Tu sais, Manu, entendu de la bouche d'un directeur, qu'avec internet , pas besoin de cours. Il dirige un lepa dans lequel j'ai souffert du manque de bases que vous expertisez tous les jours.
La politesse, l'empathie ce monsieur aurait dû l'apprendre aussi. Non lui, il avait la goujaterie chevillée au cerveau et l'a toujours.
Je suis ravie que les 2 aînés de mes petits-ajoncs connaissent leurs tables et même numéro 3, encore en maternelle en joue.
Demandez à nos collègue de langues...
Moins le peuple en saura et plus les sachant auront les mains libres.
Un ex- collègue me disait très récemment que le niveau revient à celui de 1789, mais en 1789, les Français ( beaucoup) n'avaient pas appris alors qu'en 2023, ils n'ont rien appris.
Chat GPT vient de mettre le Mt Saint Michel en Bretagne... mais aussi les grottes de Lascaux.

Comme c'est très bien expliqué dans la vidéo ci-dessus, GPT ne cherche pas la bonne réponse, il formule la réponse qui convient le mieux suivant ses paramètres. Si on reste au niveau du vrai et du faux, et bien on passe à côté. Chat GPT me fait penser à Trump, et au populisme en général. La Terre plate, c'est comique. Mais si on repense aux vaccins contre le COVID, alors là on se dit que l'on rentre dans une période où les jeunes n'auront plus du tout les mêmes outils que nous pour se faire un avis. Nous avons des bases solides et on sait que la parole d'un scientifique est plus crédible, sauf quand les clignotants s'allument dans notre cerveau, comme avec le Pr Raoult.

Dans cette histoire de chat GPT et les dangers pour les compositions des élèves, je suis surpris par une telle hypocrysie, cela ne dérangeait personne qu'un devoir maison soit réalisé par une mère, un père, une soeur, un frère, un professeur à domicile, un étudiant à l'autre bout du monde ?

On dirait presque que c'est inadmissible car c'est à la portée de n'importe qui, n'importe quel quidam sans aucune culture familiale, sans moyen financier, c'est troublant.

Tu as parfaitement résumé. Je pense sincèrement que la parole des experts, les vrais, est mise en doute par ce manque de connaissances. Quand on est éduqué, on a les connaissances, on les cherche, on les trouve ou pas, on s'informe et les clignotants s'allument.
Ces dernières années, quand j'enseignais encore, j'avais de plus en plus de mal à expliquer telle ou telle chose car j'avais en face de moi des élèves qui me disaient qu'ils avaient lu, entendu tel ou tel journaliste qui avait dit que. Parfois oui, mais le journaliste s'était trompé, avait été incomplet, les élèves n'avaient pas bien compris ou pas tout compris. Il fallait vraiment faire preuve de beaucoup de pédagogie, de persuasion pour lui dire qu'ils s'étaient trompés. Et malgré mes efforts, dans certains yeux je voyais bien que le doute subsistait.
Quant aux travaux faits par maman ou qui tu veux à la maison, bien sûr ( je suis la première à condamner,dans ce cas), mais le plus souvent c'est une aide, un échange, ce n'est pas faire à la place de. J'ai participé au dispositif " Devoirs faits" aussi et on aide, on donne des pistes ( la première étant d"ouvrir le cahier, le livre)
Et je pense aussi aux mémoires écrits par nos enfants. A chaque fois j'ai , modestement, contribué à leur travail en lisant, corrigeant, proposant. Il s'agissait bien sur de l'orthographe, de la syntaxe et de la présentation. Ce n'est pas juste d'avoir des parents qui savent, mais la vie est-elle juste? Par contre être remplacé pour tout et par un machine, il y a une marche!

profs( a écrit:Cela fait du bien de rire devant ces bêtises mais chat gpt3 gère 175 milliards de paramètres. Le 4 devrait en gérer 100 trillions.
On a certes encouragé, développé l'éducation pour émanciper les personnes. Mais, selon moi  cela a surtout été fait car l'économie a eu besoin de personnes mieux formées.
Je suis pessimiste mais avec de telles avancées technologiques j'ai peur qu'eduquer seulement une petite partie des hommes suffisent. Je crains de grandes crises sociales. Peut-être que je n'arrive pas à envisager les nouveaux emplois ? Peut être que je n'arrive pas à imaginer un nouveau monde financé autrement qu'aujourd'hui ?
Je reprends l'exemple de midjourney.
Les graphistes sont déjà concurrencés par des freelances partis travailler ou nés dans des pays où la vie est moins chère. Ils sont concurrencés par des plates-formes du genre 5euros.com. Aujourd'hui,  en plus on leur met midjourney dans les pattes. C'est la fin annoncée d'une énorme majorité de graphistes. Que vont-ils faire ? En plus, avec l'inertie de l'éducation nationale on va probablement continuer à en former autant pendant x années.
Et ceci est valable pour énormément d'emplois tertiaires.
Du primaire au secondaire puis au tertiaire au fil des ans... ok mais il va y avoir quoi ensuite ?
J'aurais envie de dire un retour aux métiers manuels non delocalisables et non remplaçables par l'IA ? Et pour le reste ? C'est sûrement mon côté pessimiste mais je vois arriver de grandes crises et de grands bouleversements societaux.
Je ne suis pas certain que l'éducation nationale soit un des postes principaux de dépense dans le futur.

Notre système économique a besoin de moins en moins de monde pour produire de plus en plus de richesses, son but n'est pas que tous les citoyens puissent vivre du job de leur rêve toute leur vie. Un jour soit on aura le revenu universel soit les "non productifs" auront des aides sociales en échange de quelques heures de travail données directement par l'état ce qui reviendra à les payer une misère.

profs( a écrit:Cela fait du bien de rire devant ces bêtises mais chat gpt3 gère 175 milliards de paramètres. Le 4 devrait en gérer 100 trillions.

Non, c'est une erreur reprise par plusieurs médias /tweets....

https://thealgorithmicbridge.substack.com/p/gpt-4-rumors-from-silicon-valley
https://futurism.com/the-byte/openai-ceo-people-will-be-disappointed-gpt4

GPT4 sera meilleur, mais le chiffre de 100 trillions de paramètres est fantaisiste (il faut bien vendre du papier).

Edit : il est moins crédule en planétologie qu'avec les maths