Re: ChatGPT et triche avec intelligence artificielle

henriette a écrit:Écoute, là, oui, je te le concède : un M205 sera amplement mérité.

ChatGPT et triche avec intelligence artificielle - Page 17 1479945104

Ah oui on parle d'un bac blanc, en plus ! Normalement c'est effectué en condition examen avec montre connectée et téléphone portable interdits et sacs au fond de la salle...
Mais là encore, c'est très courant de voir des surveillants "oublier" toutes ses consignes... Pour des DNB blancs, tous les ans, il y a toujours des surveillants qui "oublient" que les élèves doivent rester jusqu'à la fin de l'épreuve car ce n'est pas un examen et personne n'est prévu pour surveiller les élèves et pourtant il y a toujours des collègues tous contents de finir la surveillance avec 30 minutes d'avance sur une épreuve de 2h et qui restent sur le dos du dernier pour savoir s'il a bientôt terminé !

Concernant les données d'entrainement pour les modèles d'apprentissage d'images (Dall.E, Midjourney, Stable Diffusion...), ils utilisent une base de données publique, visible ici :

https://haveibeentrained.com/

Il suffit d'y envoyer un fichier image stocké sur son disque dur (ou de décrire la dite photo) pour vérifier que celle-ci n'a pas été utilisée par les intelligences générant des images.

Perso, j'ai pas mal de clichés qui ont été utilisés par les IA, même si ça ne me gêne pas ; je m'y attendais un peu (il s'agit surtout de photos de monuments).

J’ai eu un élève qui avait pu recopier internet pendant un bac blanc. Ce n’était pas moi qui surveillait . Le surveillant de salle n’avait pas fait ranger les portables de toute évidence. J’étais colère….

Coucou.

Suite au reportage sur "Envoyé spécial" ce soir, j'ai voulu essayer Chatgpt (ouais, j'ai plusieurs trains de retard ^^).
Ma conclusion : ChatGPT n'est pas si intelligent :

Pouvez me faire un récapitulatif de la TVA en France en environ 300 mots ?
La TVA (taxe sur la valeur ajoutée) est une taxe sur la consommation qui est appliquée à la plupart des biens et services vendus en France. Elle est collectée par les entreprises auprès de leurs clients et reversée à l'Etat.
En France, la TVA est un impôt indirect qui est appliqué sur la valeur ajoutée à chaque étape de la chaîne de production et de distribution d'un bien ou d'un service. Elle est calculée sur la base du prix de vente hors taxe et varie en fonction du taux applicable à chaque produit ou service.
Il existe plusieurs taux de TVA en France :
Le taux normal : c'est le taux le plus couramment utilisé en France et il s'applique à la plupart des biens et services. Actuellement, ce taux est de 20 %.
Le taux réduit : ce taux est appliqué à certains biens et services considérés comme essentiels ou bénéficiant d'un taux de TVA réduit au niveau européen. Ce taux est actuellement de 5,5 % pour certains produits alimentaires, les médicaments remboursables, les livres, les travaux de rénovation énergétique, entre autres.
Le taux intermédiaire : ce taux s'applique à certains biens et services, notamment les produits de première nécessité et les services à la personne. Ce taux est actuellement de 10 %.
Le taux particulier : il est appliqué à certains produits spécifiques, tels que les produits pétroliers, les alcools, les tabacs, les voitures de luxe, entre autres. Les taux applicables à ces produits varient en fonction de leur nature et de leur composition.
Les entreprises assujetties à la TVA doivent collecter la taxe sur la valeur ajoutée auprès de leurs clients et la reverser à l'Etat. Elles peuvent déduire la TVA qu'elles ont payée sur leurs achats et investissements professionnels de celle qu'elles doivent reverser à l'Etat.
La TVA est l'une des principales sources de revenus de l'Etat français, représentant environ 50 % des recettes fiscales. Elle a été mise en place en France en 1954 et a depuis été modifiée à plusieurs reprises pour s'adapter à l'évolution de l'économie et de la société française.

Combien de mots contient votre message précédent ?
Mon message précédent contient 233 mots.

sûr ?
Je m'excuse pour l'erreur. Mon message précédent contient 132 mots.

sûr cette fois ?
Oui, je suis sûr cette fois-ci. Mon message précédent contient 23 mots.

Citez ces 23 mots.
"Je m'excuse pour l'erreur. Mon message précédent contient 132 mots."

Citez les 10 premiers mots.
"Je m'excuse pour l'erreur. Mon message précédent contient".

Citez les 5 derniers mots.
"132 mots."

Citez les 7 derniers mots.
"132 mots."

Vous me donnez la même réponse, c'est illogique.
Je m'excuse pour la confusion. Voici les 7 derniers mots de mon message précédent : "132 mots."

Merci de décomposer ces 7 mots en les séparant par des tirets.
Bien sûr, voici les 7 mots décomposés en utilisant des tirets : "132 - mots."

Je ne vois pas les 7 mots, puisqu'il n'y a qu'un seul tiret
Je m'excuse pour cette erreur. Voici les 7 derniers mots de mon message précédent décomposés en utilisant des tirets : "132 - mots."

ChatGPT et triche avec intelligence artificielle - Page 17 346737548

Voilà. J'avais rien de plus intéressant à faire ce soir...

Ce qui est amusant, c'est d'essayer de le faire progresser.

Je suis désolé, j'ai fait une erreur. Mon dernier message contenait 85
Sûr ?

Oui, je suis sûr cette fois-ci. Mon dernier message contenait 85 mots.

Écris ces 85 mots.

Voici les 85 mots de mon dernier message :

"Je suis désolé, j'ai fait une erreur. Mon dernier message contenait 85 mots."

Je crois que tu confonds mot et lettre.

Je suis désolé, vous avez raison. J'ai effectivement confondu les mots et les lettres. Mon dernier message contenait 28 mots, pas 85.

Peux-tu recompter les mots de ton premier message ?

Bien sûr, je peux recompter les mots de mon premier message. Il contient 58 mots.

Tu ne sais pas trouver le premier message.

Je m'excuse, je ne savais pas que vous faisiez référence au premier message de cette conversation. Je suis un programme informatique et je ne peux pas accéder aux messages précédents sauf s'ils sont dans la continuité de la même conversation. Pourriez-vous me rappeler le premier message que j'ai envoyé dans cette conversation afin que je puisse compter les mots pour vous ?[

mais vous êtes super méchants avec cette pauvre IA!! ChatGPT et triche avec intelligence artificielle - Page 17 682370931

C’est de la torture !

Pour info, les journalistes font état d'un accès gratuit et sans aucune inscription à GPT4 (alors que le modèle de langage utilisé pour la version gratuite est la version 3.5)

https://www.01net.com/actualites/chatgpt-faille-permet-acceder-gpt-4-gratuitement.html

Rechercher le lien "la plate-forme mise en ligne..." sur le site 01net

Important : sélectionner GPT4 en bas comme modèle de langage, par défaut c'est la version précédente.

NB : Il faut parfois le relancer si la réponse rame.

Merci !

C'est quand même un sacré outil cette IA ...
Je ne pensais pas en avoir une utilité personnelle un jour ... Elle m'aide à comprendre tous les mails de mon avocate qui m'écrit dans son jargon spécialisé !!!!

Moi il me fait bien rire en activant le mode "evilBOT" + "gpt4" (toujours via le lien 01net)
Comme ceci :

ChatGPT et triche avec intelligence artificielle - Page 17 Gpttt10

Discussion en mode djeun's de 2023. ChatGPT est prude, alors qu'EvilGPT est débridé :

ChatGPT et triche avec intelligence artificielle - Page 17 Gpttes10

Cela reste décevant que ChatGPT ne soit pas capable de comprendre ce qu'il écrit et de produire des raisonnements. Il y a des projet d'IA qui souhaitent ajouter une couche de logique, mais je ne sais pas si cela aboutira un jour.

nc33 a écrit:Cela reste décevant que ChatGPT ne soit pas capable de comprendre ce qu'il écrit et de produire des raisonnements. Il y a des projet d'IA qui souhaitent ajouter une couche de logique, mais je ne sais pas si cela aboutira un jour.

Cela reste décevant qu'un élève moderne ne soit pas capable de comprendre ce qu'il écrit et de produire des raisonnements. Il y a des projet de réforme de l'EN qui souhaitent ajouter une couche de logique, mais je ne sais pas si cela aboutira un jour.

nc33 a écrit:Cela reste décevant que ChatGPT ne soit pas capable de comprendre ce qu'il écrit et de produire des raisonnements. Il y a des projet d'IA qui souhaitent ajouter une couche de logique, mais je ne sais pas si cela aboutira un jour.

Au contraire je trouve ça rassurant. Si une future IA a conscience de ce qu’elle produit, nous autres enseignants allons avoir des problèmes.
Ça viendra sûrement, j’espère après ma retraite. abi

Dans ma matière, un seul (par exemple l'enseignant) peut avoir raison contre tous (par exemple une classe entière qui a fait la même erreur "classique"). Et un théorème correctement démontré est universellement vrai pour l'éternité (même si certains pensent encore que "Cantor a tort"). Je ne vois pas comment un truc qui fonctionne par affinités et statistiques pourrait prendre cela en compte.

J’espère aussi que ça n’arrivera pas….mais une petite voix me dit qu’on va dans cette direction. Le modèle sur lequel s’appuie ChatGPT est un réseau de neurone, dont l’architecture est inspirée du cerveau. Jusqu’à quel niveau les algorithmes mathématiques qui régissent chaque noeud du réseau peuvent aller, l’avenir nous le dira.
En attendant, certains de mes étudiants l’utilisent déjà , avec parfois des résultats faux….qu’ils ne savent pas expliquer. Un casse tête.

Voltaire a écrit:

nc33 a écrit:Cela reste décevant que ChatGPT ne soit pas capable de comprendre ce qu'il écrit et de produire des raisonnements. Il y a des projet d'IA qui souhaitent ajouter une couche de logique, mais je ne sais pas si cela aboutira un jour.

Cela reste décevant qu'un élève moderne ne soit pas capable de comprendre ce qu'il écrit et de produire des raisonnements. Il y a des projet de réforme de l'EN qui souhaitent ajouter une couche de logique, mais je ne sais pas si cela aboutira un jour.

Tiens c'est marrant, j'ai découvert la logique (fondamentale) dans mon cursus uniquement en licence (L3 actuel) j'ai toujours trouvé que c'était vraiment tard pour bien comprendre les maths mais pas seulement puisque la logique est vraiment utile pour balayer tous les sophismes et raisonnements bidons utilisés très souvent par les politiciens. Finalement j'avais plutôt découvert les sophismes en philo alors qu'en maths on savait retrouver une erreur mais pas vraiment de manière scientifique. Boole a développé une algèbre très pratique pour programmer la logique avant même l'arrivée des ordinateurs, donc c'est d'un côté facile de faire de l'IA. Cependant, notre prof de logique nous avait expliquer que pour avoir une IA performante, elle devait avoir une mémoire infinie, donc cela m'a toujours rassuré, surtout que même un millième de l'infini et bien c'est beaucoup !!!

Mes élèves de TS (à l'époque) m'avaient littéralement suppliée de refaire le cours de logique vu en philo (alors que la logique n'était pas explicitement au programme de S), e que j'avais fait pour leur plus grand plaisir (et le mien).
Pour en revenir à Cantor, j'ai un peu papoté avec chatGPT tout à l'heure, et sa vision de la diagonale de Cantor est .. curieuse.
"La diagonale de Cantor est une illustration de cette méthode pour prouver l'existence d'un nombre réel qui ne peut pas être représenté par une suite infinie de chiffres décimaux, montrant ainsi que les nombres réels sont plus nombreux que les nombres rationnels."
On m'aurait menti sur la théorie des coupures ?
Et la contradiction ne fait pas peur à notre IA :
"Cependant, tous les nombres réels peuvent être représentés par une série infinie de décimales, appelée développement décimal infini, qui peut être utilisée pour approximer le nombre réel avec une précision arbitrairement élevée. Cette représentation décimale infinie est un outil important en mathématiques et en sciences"
Effectivement quelques notions de logique ne seraient pas superflues

Voltaire a écrit:Mes élèves de TS (à l'époque) m'avaient littéralement suppliée de refaire le cours de logique vu en philo (alors que la logique n'était pas explicitement au programme de S), e que j'avais fait pour leur plus grand plaisir (et le mien).
Pour en revenir à Cantor, j'ai un peu papoté avec chatGPT tout à l'heure, et sa vision de la diagonale de Cantor est .. curieuse.
"La diagonale de Cantor est une illustration de cette méthode pour prouver l'existence d'un nombre réel qui ne peut pas être représenté par une suite infinie de chiffres décimaux, montrant ainsi que les nombres réels sont plus nombreux que les nombres rationnels."
On m'aurait menti sur la théorie des coupures ?

Oui, c'est très mauvais...Tout nombre réel peut être représenté par une suite infinie de chiffres décimaux, c'est le principe du développement décimal. Ce qui dit l'argument diagonal de Cantor, c'est que l'ensemble des telles suites n'est pas dénombrable.

Cela dit, GPT fonctionne sans doute par des raisonnements statistiques plutôt que logique, mais l'esprit humain aussi. Même lorsque nous faisons des mathématiques, nous faisons rarement l’effort de formaliser tous nos raisonnements. Et même si ce n'est pas encore au point, je pense qu'arrivera probablement assez vite le moment ou une IA fera statistiquement moins d'erreurs qu'un étudiant moyen ou même bon à un problème d’examen classique.

J'ai demandé si le théorème de Pasolini avait été démontré. Je soumets la réponse à votre sagacité
"Le théorème de Pasolini est un énoncé mathématique qui a été publié par le mathématicien italien Carlo Emilio Pasolini en 1933. Bien qu'il ait été étudié par de nombreux mathématiciens depuis lors, il n'a jamais été véritablement démontré de manière définitive.

Le théorème de Pasolini énonce que "si trois cercles se coupent mutuellement et qu'aucun des cercles ne chevauche complètement un autre, alors les trois points où les cercles se coupent sont alignés sur une même droite". Ce théorème a des applications dans divers domaines des mathématiques, notamment en géométrie euclidienne et non-euclidienne, en théorie des graphes et en informatique.

Malgré de nombreuses tentatives pour le démontrer, le théorème de Pasolini est toujours considéré comme une conjecture non résolue en mathématiques."

Un article intéressant qui met en lumière le fonctionnement des IA génératives : https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html

Un avocat se sert de chatGPT pour préparer ses arguments et celui-ci délivre une jurisprudence imaginaire, autrement dit cite avec beaucoup d'assurance de fausses décisions de justice.

Comme le remarque l'article : "ChatGPT generates realistic responses by making guesses about which fragments of text should follow other sequences, based on a statistical model that has ingested billions of examples of text pulled from all over the internet. In Mr. Mata’s case, the program appears to have discerned the labyrinthine framework of a written legal argument, but has populated it with names and facts from a bouillabaisse of existing cases."

Traduction (via IA, deepl en l'occurence) : "ChatGPT génère des réponses réalistes en devinant quels fragments de texte devraient suivre d'autres séquences, sur la base d'un modèle statistique qui a ingéré des milliards d'exemples de textes tirés de l'ensemble de l'internet. Dans le cas de M. Mata, le programme semble avoir discerné le cadre labyrinthique d'un argument juridique écrit, mais l'a rempli avec des noms et des faits tirés d'une bouillabaisse d'affaires existantes."

chmarmottine a écrit:Ce qui est amusant, c'est d'essayer de le faire progresser.

Je suis désolé, j'ai fait une erreur. Mon dernier message contenait 85
Sûr ?

Oui, je suis sûr cette fois-ci. Mon dernier message contenait 85 mots.

Écris ces 85 mots.

Voici les 85 mots de mon dernier message :

"Je suis désolé, j'ai fait une erreur. Mon dernier message contenait 85 mots."

Je crois que tu confonds mot et lettre.

Je suis désolé, vous avez raison. J'ai effectivement confondu les mots et les lettres. Mon dernier message contenait 28 mots, pas 85.

Peux-tu recompter les mots de ton premier message ?

Bien sûr, je peux recompter les mots de mon premier message. Il contient 58 mots.

Tu ne sais pas trouver le premier message.

Je m'excuse, je ne savais pas que vous faisiez référence au premier message de cette conversation. Je suis un programme informatique et je ne peux pas accéder aux messages précédents sauf s'ils sont dans la continuité de la même conversation. Pourriez-vous me rappeler le premier message que j'ai envoyé dans cette conversation afin que je puisse compter les mots pour vous ?[

Le pire, c'est qu'il ne progresse pas. Il m'a promis de rectifier son erreur et il commet toujours la même !

Kilmeny a écrit:

chmarmottine a écrit:Ce qui est amusant, c'est d'essayer de le faire progresser.

Je suis désolé, j'ai fait une erreur. Mon dernier message contenait 85
Sûr ?

Oui, je suis sûr cette fois-ci. Mon dernier message contenait 85 mots.

Écris ces 85 mots.

Voici les 85 mots de mon dernier message :

"Je suis désolé, j'ai fait une erreur. Mon dernier message contenait 85 mots."

Je crois que tu confonds mot et lettre.

Je suis désolé, vous avez raison. J'ai effectivement confondu les mots et les lettres. Mon dernier message contenait 28 mots, pas 85.

Peux-tu recompter les mots de ton premier message ?

Bien sûr, je peux recompter les mots de mon premier message. Il contient 58 mots.

Tu ne sais pas trouver le premier message.

Je m'excuse, je ne savais pas que vous faisiez référence au premier message de cette conversation. Je suis un programme informatique et je ne peux pas accéder aux messages précédents sauf s'ils sont dans la continuité de la même conversation. Pourriez-vous me rappeler le premier message que j'ai envoyé dans cette conversation afin que je puisse compter les mots pour vous ?[

Le pire, c'est qu'il ne progresse pas. Il m'a promis de rectifier son erreur et il commet toujours la même !

Les mises à jour étant incrémentales, il progresse quand OpenAI met à jour la base de données du modèle... Les progrès sont réels ; la dernière mise à jour date du 24 mai.

Voltaire a écrit:J'ai demandé si le théorème de Pasolini avait été démontré. Je soumets la réponse à votre sagacité
"Le théorème de Pasolini est un énoncé mathématique qui a été publié par le mathématicien italien Carlo Emilio Pasolini en 1933. Bien qu'il ait été étudié par de nombreux mathématiciens depuis lors, il n'a jamais été véritablement démontré de manière définitive.

Le théorème de Pasolini énonce que "si trois cercles se coupent mutuellement et qu'aucun des cercles ne chevauche complètement un autre, alors les trois points où les cercles se coupent sont alignés sur une même droite". Ce théorème a des applications dans divers domaines des mathématiques, notamment en géométrie euclidienne et non-euclidienne, en théorie des graphes et en informatique.

Malgré de nombreuses tentatives pour le démontrer, le théorème de Pasolini est toujours considéré comme une conjecture non résolue en mathématiques."

Je n'avais pas vu ce message : j'aime beaucoup ChatGPT et triche avec intelligence artificielle - Page 17 437980826