À la fac de Lyon, la moitié des copies en handicapologie avaient été rédigées par ChatGPT

À la fac de Lyon, la moitié des copies en handicapologie avaient été rédigées par ChatGPT

À la fac de Lyon, la moitié des copies en handicapologie avaient été rédigées par ChatGPT

Stéphane Bonvallet, un enseignant en handicapologie de la faculté de Lyon, avait demandé à ses élèves de « définir les grands traits de l’approche médicale du handicap en Europe », rapporte Le Progrès. Or, 7 des 14 copies présentaient des similitudes très étranges : 

« Il ne s’agissait pas de copier-coller. Mais les copies étaient construites exactement de la même manière. On y retrouvait les mêmes constructions grammaticales. Le raisonnement était mené dans le même ordre, avec les mêmes qualités et les mêmes défauts. Enfin, elles étaient toutes illustrées par un exemple personnel, relatif à une grand-mère ou un grand-père… Il semblait donc évident que ces copies n’étaient pas normales. Mais je n’ai pas tout de suite compris de quoi il s’agissait. À l’évidence, il ne s’agissait pas d’un plagiat de site. »

Interrogée, une des étudiantes ayant rendu un devoir douteux reconnaît que « 50 % des élèves de la classe s’étaient servis de l’intelligence artificielle ChatGPT pour rédiger leur copie ». Ils s'étaient passés le mot sur les réseaux sociaux.

« N’ayant pas de cadre interdisant actuellement cette pratique, j’ai été contraint de les noter. D’une copie à l’autre, ça valait entre 10 et 12,5. J’ai donc mis 11,75 aux 7 étudiants qui ont utilisé ChatGPT. La direction de l’université a toutefois été avertie. Elle a désormais les copies entre les mains et mène une instruction. »

À l’entendre, le phénomène serait massif, surtout dans les lycées : « Les trois quarts des enseignants m’ont dit avoir eu affaire à des copies louches ces dernières semaines ».

Open AI chercherait à développer une solution permettant d’identifier les textes générés par son IA, en déployant un filigrane invisible qui pourrait être repéré par un logiciel spécifique.

Commentaires (60)


Bonjour,
Le titre du Progrès est racoleur pour 7 copies dans une classe vous auriez pu nuancer le votre.
:inpactitude2:



Xanatos a dit:


Bonjour, Le titre du Progrès est racoleur pour 7 copies dans une classe vous auriez pu nuancer le votre. :inpactitude2:




ca existe encore les journaux généralistes non raccoleurs?
c’est une question sérieuse..




TNZfr a dit:


Comme quoi « Idiocracy » n’était pas de l’anticipation, mais un documentaire.




un documentaire sur l’avenir proche, depuis des années que je le répète
rien que le peinturage de tableaux en est une première oeuvre d’idiocraty
et je note consencieusement dans mon calepin toute cette évolution des millenials..


Pour avoir discuté aussi avec des étudiants, même en école d’ingé, le problème semble assez massif en effet…



En sommes nous arrivé a un point où la difficulté a s’exprimer directement est si grande que l’on en vient a faire écrire nous textes par une ia ? 😅


Comme quoi « Idiocracy » n’était pas de l’anticipation, mais un documentaire.



TNZfr a dit:


Comme quoi « Idiocracy » n’était pas de l’anticipation, mais un documentaire.




tu fais un crossover de “Idiocracy ” avec “Demolition Man” et tu es dans le monde de demain :)



brunchto a dit:


tu fais un crossover de “Idiocracy ” avec “Demolition Man” et tu es dans le monde de demain :)




Miam le steak de rat


Parait même que c’est un « rat burger » dans la VO.



Mais vue la tronche cassée du cinéma d’auteur, la nouvelle vague, au 21ème sera donc IA, ou, ne sera pas ! :ouioui:


La solution la plus simple risque d’être la plus désagréable : faire rédiger sous l’œil des profs


Bof… T’as vu les sous-doués ?
Un stylo bluetooth et l’affaire est jouée.


swiper

Bof… T’as vu les sous-doués ?
Un stylo bluetooth et l’affaire est jouée.


Au pire on leur fourni le papier et un bic cristal


Oui, ou des oraux tout simplement ^^


Est-ce que ce genre de devoir nécessite des recherches et de la documentation pour être produit ou bien c’est juste vomir du par coeur ?



Vu l’intitulé, j’ai un doute que ce soit le second cas. Donc ça me paraît difficile de faire ça en devoir surveillé à moins de bloquer explicitement le service en ligne de ChatGPT sur le réseau de l’université, et aussi bloquer les smartphones des étudiants. Ou alors on en arrive à des solutions extrêmement intrusives comme celles passées dans les colonnes de ce site dernièrement pour les examens en ligne.


ChatGPT, bien utilisé est un très bon outil pour faire de la recherche d’information. Là où google va t’orienter vers des sites qui sont en rapport avec les mots clés mais où il faudra chercher (ctrl+f marche souvent bien) le paragraphe qui t’intéresse, ChatGPT va directement te donner une réponse formulé dans un langage naturel.



Ce j’imagine que MS pense faire de ChatGPT avec Bing, c’est agrémenté cette réponse avec les sites en liens.



Maintenant, si on en revient à nos étudiants, si un ChatBot arrive à faire une bonne partie du boulot demandé à un Master, je pense qu’il y a d’autres questions à se poser. Quel est l’avenir du métier par exemple ? Peut-être que savoir utiliser (et ce qui implique d’être aussi critique) de tels outils sera une compétence utile.


La première partie de ton message me perturbe pas mal.
Parce qu’elle part du principe que les réponses que donne ChatGPT sont xorrectes… Ce qui n’est absolument pas le cas tout le temps. Parfois même se plantant sur de la logique de base et en plus avec un degré de certitude exaspérant.
Le fait de ne même pas avoir de visibilité sur les sources utilisées par chatGPT ne permettent même pas de remettre en question sa fiabilité d’une réponse à l’autre.
Ça revient grosso modo a un filtre agrégateur qui fait floutage entre toi et les résultats de recherche, et aucun outil pour déterminer la fiabilité de sa réponse sauf a l’oeil déjà connaisseur du résultat attendu (mais ce dernier aura alors bien moins intérêt à se servir de chatGPT dans un objectif de recherche).



C’est le genre d’outil justement qui ne devrait être utilisé que quand on maîtrise déjà le domaine, de façon à pouvoir review et corriger la réponse de l’IA.



En revanche Je suis totalement d’accord avec la fin du message, sur le besoin de formation sur comment chercher et vérifier de l’information, et donc comment se servir des outils qui y touchent et avoir un avis critique sur ces outils.



tazvld a dit:


Maintenant, si on en revient à nos étudiants, si un ChatBot arrive à faire une bonne partie du boulot demandé à un Master, je pense qu’il y a d’autres questions à se poser. Quel est l’avenir du métier par exemple ? Peut-être que savoir utiliser (et ce qui implique d’être aussi critique) de tels outils sera une compétence utile.




Depuis quand des études en sociologie (l’handicapologie en fait partie) servent à apprendre un métier ?


Touché !



Du coup, j’en reviens au problème du boulot demandé aux étudiants en Master. Qu’est-ce que l’enseignant demandait ? Quelle est la compétence qu’il cherche à évaluer?



Le biais de l’algo ici est dû au biais de l’information accessible sur le net. Or, un étudiant va aussi faire ce boulot de recherche d’informations sur le net. Il va donc être exposé aux mêmes biais. Ca revient donc à dire d’être critique à l’information qui se trouve sur le net.



Il faut aussi ajouter qu’OpenIA cherche même à corriger une partie de ces biais (alors, quoi ? qui ? comment ?, je n’en sais rien, mais c’est ce qui est affirmé avec ChatGPT, c’est qu’il est “éthique”).



tazvld a dit:


Maintenant, si on en revient à nos étudiants, si un ChatBot arrive à faire une bonne partie du boulot demandé à un Master, je pense qu’il y a d’autres questions à se poser. Quel est l’avenir du métier par exemple ? Peut-être que savoir utiliser (et ce qui implique d’être aussi critique) de tels outils sera une compétence utile.




Le problème, comme l’explique la news, est que pour un sujet donné, les résultats seront toujours similaires. Donc ces outils savent faire une synthèse de sources existantes mais ne savent pas remettre en cause les données d’entrées pour faire évoluer le sujet.



On voit bien avec les algorithmes mainstream comme facebook ou spotify que s’appuyer sur ce genre de solution fini par enfermer son utilisateur dans un profil sans avenir.


Je pense qu’une bonne réponse à apporter serait une synthèse faite devant les étudiants de ce problème en démontrant que le résultat produit par l’IA est potentiellement biaisé et à sens unique.



Au final, ça démontre avant tout un manque d’information sur ce qu’est l’IA et pourquoi il faut voir ça comme juste une assistance et non un outil magique qui peut tout faire à notre place.


ChatGPT je l’aurais adorée pendant mon lycée pour me faire ces devoirs inutiles, illogiques et profondément débiles dans leur notation des sujets de français et de philo où justement ce travail de synthèse irrationnel et bullshit me faisait perdre un temps précieux.



Pour le reste, il y a d’autres façon d’évaluer les étudiants en fonction de leur filière. Je m’inquiète pas trop pour les filières scientifiques et techniques, les possibilités d’évaluation sont grandes. Par contre pour les autres filières non-scientfiiques, ChatGPT risque d’être un potentiel problème car elle permettra à des mauvais élèves de pouvoir passer juste au-dessus du seuil de détection.
Mais bon, il est peut-être temps de changer le mode de pensée de “tête bien pleine” à “tête bien faite” et le concept d’évaluation dans le sup’.



N’ayant pas de cadre interdisant actuellement cette pratique




Ce que je trouve le plus dramatique c’est que visiblement le prof n’a pas la liberté (ou le courage ? ou les deux ?) de définir lui-même ce qui est de la triche. Perso je leur aurait pas mis 11.75 je leur aurais tous foutu 0. La question est: est-ce que le système est tellement moisi qu’ils auraient pu faire appel du 0 et avoir gain de cause ?


C’est pas une question de courage. C’est une question de texte juridique. Comme le cadre juridique ne l’interdit (i.e, ce n’est pas considéré comme de la triche) si l’examinateur aurait mis un 0, les étudiants auraient pu contesté, et là, bonjour les emmerdes pour lui. Donc, on minimise les emmerdes en disant “cf la loi”.



Après tout, c’est pas son boulot de se faire le ping-pong entre des étudiants contestataires (légalement) et une administration universitaire qui serait probablement devenu sourde.


Texte du devoir : expliquez en quoi le texte ci-après, rédigé par ChatGPT, est ou non pertinent pour répondre au sujet xyz.



tazvld a dit:


Le biais de l’algo ici est dû au biais de l’information accessible sur le net. Or, un étudiant va aussi faire ce boulot de recherche d’informations sur le net. Il va donc être exposé aux mêmes biais. Ca revient donc à dire d’être critique à l’information qui se trouve sur le net.




D’où le fait qu’il faut aussi apprendre à chercher. Ca n’est pas inné ni évident. Typiquement, beaucoup croient hélas que Wikipedia est la Sainte Vérité Absolute Et Source Suprême de Toute Information Vraie alors qu’elle est potentiellement minée de désinformation car rédigée par n’importe quel gus sur Internet, moi y compris (oui, y’a des vérifs, des contenus mis à l’épreuve, des alertes en cas de fiabilité douteuse, etc, mais ça reste un aspect important à avoir en tête quand on consulte ce site). Wikipedia n’est pas une source d’info, c’est une base pour de la recherche d’information. C’est ce qu’il m’a été appris dans ma formation initiale.



Wikipedia ici en exemple est valable pour tout résultat trouvé sur le Web.



Mais oui, ça demande d’aller plus loin que la page 1 de Google et copier/coller le contenu du premier lien obtenu. Soit la base d’un travail intellectuel de mon point de vue… Sinon ça sert à rien et autant demander à l’IA-qui-sait-tout directement.


C’est pour ça que je pose la question de savoir ce que l’enseignant cherche à évaluer. Si un chatbot arrive à avoir la moyenne à un devoir de Master, quel est la valeur ajoutée d’un étudiant qui sort de ce master? Qu’est ce qui est important ?



Oui, de tels algos vont impliquer de gros changement dans la société au même titre qu’internet l’a déjà chamboulé avant eux.


FUD, Vous êtes resté sur le discours des enseignants des années 2010.
Vous avez essayé de modifier une page Wikipédia récemment ?



Cependant je partage votre avis sur la base d’une recherche d’information. C’est loin d’être une évidence, il y a bien pire que Wikipédia, tous les journaux gratuits & contenus sponsorisés par le biais des silos par exemple.


Xanatos

FUD, Vous êtes resté sur le discours des enseignants des années 2010.
Vous avez essayé de modifier une page Wikipédia récemment ?



Cependant je partage votre avis sur la base d’une recherche d’information. C’est loin d’être une évidence, il y a bien pire que Wikipédia, tous les journaux gratuits & contenus sponsorisés par le biais des silos par exemple.


J’ai pris Wikipedia en exemple, mais comme indiqué dans mon commentaire, c’est valable pour toute information trouvée sur le Web. Sans croisement et recherche de sources variées, une recherche d’information est forcément biaisée et partielle en plus d’être potentiellement partiale. Un cas assez courant, les blogs qui se copient/collent les uns sur les autres, où le contenu est parfois ni plus ni moins que celui de Wikipedia. Voire les sites agrégateurs de contenus qui pillent le web pour l’afficher avec de la pub en plus.



Et comme ces sites à la noix ont une bonne SEO, ils apparaissent en premier généralement.



Avoir un regard critique sur ses sources d’info est indispensable.




Tandhruil a dit:


Question de vieux con, il n’y a plus de médiathèques avec l’Encyclopaedia Universalis ?




Aucune idée. Mon constat restant que le 1er lien Google reste la vérité pour l’internaute moyen.



tazvld a dit:


Le biais de l’algo ici est dû au biais de l’information accessible sur le net.




une précision : l’algo peut aussi être biaisé dans son propre paramétrage, par exemple pour interdire de répondre à des questions “polémiques”.



Les programmeur de ChatGPT ont déclaré l’avoir fait.



Tandhruil a dit:


Le problème, comme l’explique la news, est que pour un sujet donné, les résultats seront toujours similaires. Donc ces outils savent faire une synthèse de sources existantes mais ne savent pas remettre en cause les données d’entrées pour faire évoluer le sujet.




Je en suis pas d’accord. Dans chatGPT, on peut lui faire creuser une partie ou l’autre du sujet, et creuser, et creuser…
Il faut lui poser les bonnes questions.



Quand je lui ai demandé “Germinal est-il une épopée pessimiste de l’animalité humaine”, la réponse était pas mal, mais superficielle.
Par contre, en continuant la conversation, on peut lui demander de préciser en quoi c’est une épopée, en quoi c’est optimiste, de citer des exemples, d’illustrer l’animalité humaine…



Pareil si on lui demande des infos sur des lois, on peut creuser, lui demander de croiser des éléments de réponse…



L’outil est excellent. Les étudiants, c’est une autre histoire…



Par contre elle est éthique et cela la limite: on ne peut pas faire de recherches historiques dessus, car elle rapporte toujours TOUT à l’histoire officielle. Difficile de l’interroger sur des points obscurs, absurdes de l’histoire de France officielle.



DanLo a dit:


En sommes nous arrivé a un point où la difficulté a s’exprimer directement est si grande que l’on en vient a faire écrire nous textes par une ia ? 😅




Si utiliser une IA me permet d’avoir 11,75 le problème vient peut être de l’assignation.




définir les grands traits de l’approche médicale du handicap en Europe




Quelle est l’utilité pédagogique de ce travail ?



fred42 a dit:


Depuis quand des études en sociologie (l’handicapologie en fait partie) servent à apprendre un métier ?




T’as pas envie d’embaucher un docteur dont la thèse était :
Les enjeux d’une esthétique du flamenco : étude analytique et critique du duende ?


Je n’embauche personne. :D


J’hésite à lancer ChatGPT pour lui demander ce qu’est l’handicapologie…


Vous savez si demander à ChatGPT s’il a rédigé un texte fonctionne ? ^^
Genre, le prof prend 1 texte “louche”, le copie-colle à ChatGPT et lui demande “c’est toi qui a écrit ça ?



“Nous avons les moyens de vous faire parler !” 😁



(reply:2114291:skankhunt42 )




Il est dans les choux en ce moment :D
«ChatGPT is at capacity right now»


Il a fini de faire grève:



Qu’est-ce que l’handicapologie?
L’handicapologie est un terme qui décrit un comportement ou une attitude qui excuse ou minimise les comportements discriminatoires ou inappropriés envers les personnes handicapées. Cela peut inclure des excuses pour ne pas inclure les personnes handicapées dans les activités ou les événements, ou des commentaires qui minimisent les besoins des personnes handicapées. L’handicapologie peut également inclure des stéréotypes ou des préjugés négatifs à l’égard des personnes handicapées. Il est important de reconnaître et de s’engager à éviter l’handicapologie pour promouvoir l’inclusion et la diversité pour tous.



Peut-tu développer plus?
L’handicapologie est souvent subtile et peut prendre différentes formes. Certaines personnes peuvent présenter des excuses pour ne pas inclure les personnes handicapées dans les activités en prétendant qu’elles ne sont pas adaptées ou sûres pour elles. Cela peut également se manifester par des commentaires qui minimisent les besoins des personnes handicapées, comme “ils devraient être reconnaissants d’être même inclus”, ou “ils ont des capacités incroyables pour surmonter leur handicap”.



Il est important de reconnaître que les personnes handicapées ont les mêmes droits et les mêmes besoins que les personnes non handicapées. Ils ont le droit d’être inclus et traités de manière égale dans tous les aspects de la vie. Il est donc important de se rappeler de ne pas minimiser leurs besoins et de ne pas les exclure de manière injustifiée.



Il est également important de reconnaître les stéréotypes et les préjugés à l’égard des personnes handicapées. Les personnes handicapées peuvent être considérées comme étant tristes, faibles ou dépendantes, ou comme ayant des capacités limitées. Ces stéréotypes peuvent conduire à des comportements discriminatoires et à des barrières pour l’inclusion. Il est donc important de s’engager à briser ces stéréotypes et à promouvoir une image positive des personnes handicapées.



En somme, l’handicapologie est un comportement ou une attitude qui excuse ou minimise les comportements discriminatoires ou inappropriés envers les personnes handicapées, comme les exclure, minimiser leurs besoins, ou véhiculer des stéréotypes. Il est important de reconnaître ces comportements et de s’engager à promouvoir l’inclusion et la diversité pour tous.



C’est bon j’ai mon master?


Après une recherche rapide sur Google, j’ai quand même l’impression de ChatGPT s’est bien planté, non ?



Car, a priori, l’handicapologie n’est ni l’apologie du handicap ni l’excuse (to apology en anglais) du handicap.



DanLo a dit:



En sommes nous arrivé a un point où la difficulté a s’exprimer directement est si grande que l’on en vient a faire écrire nous textes par une ia ? 😅




C’est pas une question de difficulté à s’exprimer mais de moindre effort et temps passé…



SebGF a dit:


D’où le fait qu’il faut aussi apprendre à chercher. Ca n’est pas inné ni évident. Typiquement, beaucoup croient hélas que Wikipedia est la Sainte Vérité Absolute Et Source Suprême de Toute Information Vraie alors qu’elle est potentiellement minée de désinformation(…)




Question de vieux con, il n’y a plus de médiathèques avec l’Encyclopaedia Universalis ?



(reply:2114301:chien) :mdr:




tazvld a dit:


ChatGPT, bien utilisé est un très bon outil pour faire de la recherche d’information. Là où google va t’orienter vers des sites qui sont en rapport avec les mots clés mais où il faudra chercher (ctrl+f marche souvent bien) le paragraphe qui t’intéresse, ChatGPT va directement te donner une réponse formulé dans un langage naturel.



Ce j’imagine que MS pense faire de ChatGPT avec Bing, c’est agrémenté cette réponse avec les sites en liens.



Maintenant, si on en revient à nos étudiants, si un ChatBot arrive à faire une bonne partie du boulot demandé à un Master, je pense qu’il y a d’autres questions à se poser. Quel est l’avenir du métier par exemple ? Peut-être que savoir utiliser (et ce qui implique d’être aussi critique) de tels outils sera une compétence utile.




C’est un problème de “l’éducation” aujourd’hui. On préfère des gens qui parlent bien d’un métier plutôt que de le faire comme il se doit.



J’ai toujours trouvé que les “devoirs à la maison” sont une démission des professeurs. Ils sont censés accompagner l’élève (que ce soit du primaire au niveau X) histoire de le guider. C’est pas vraiment possible quand on largue l’élève après un cours (ma foi bien bâclé parfois).


la page 1 de google avec son petit encart à droite est la vérité absolue.



Personne ne clic sur le site du propriétaire, du coup si vous changez vos horaires (par exemple) c’est faux.
Le client vous rejette bien la faute sur vous par contre. Et se permet des commentaires sur … google (non vérifié évidemment).



Ce que je trouve bien c’est la rédaction cela peut être fastidieux pour beaucoup, moi le premier.
Avoir du contenue mais des difficultés à le mettre en forme.



Mais s’il n’y a aucune réflexion, aucune remise en question, aucune recherche, aucune humanité.
C’est la mort de la recherche, hors les études ça sert à ça, surtout en master. Bref c’est la mort de l’homme car ceux qui possèdent ces technologie ne s’intéresse qu’au profit. Ou en tout cas au moyen d’en faire un max.
Il est donc clair que le flamenco ils s’en foutent, comme du bitcoin. Jusqu’à ce que cela devienne profitable.



Il faut donc des étudiants et des chercheurs, passionnés ou travailleur pour ce coltiner ce travail.



Si les mecs n’ont pas envie d’étudier et si le sujet ne lève pas un minimum d’effort de compréhension; on se retrouve avec des copies semblables et vides. Si utiliser chatgpt est ok autant aller au bout des choses et vérifier auprès du camarade, son? travail.



fred42 a dit:


Depuis quand des études en sociologie (l’handicapologie en fait partie) servent à apprendre un métier ?




c’est pourtant la socio qui va répondre à ta question et sur l’utilité de certains métiers dans leurs formes actuelles. mais je pense à du troll, je ne vais pas continuer.


Et pourtant, ce n’est pas la voie la plus facile pour avoir un métier.


fred42

Et pourtant, ce n’est pas la voie la plus facile pour avoir un métier.


Le métier ils l’ont appris, ce qui est dur c’est de trouver un emploi
(un peu de mansuétude, je débute dans la pinaillerie :D )


elticail

Le métier ils l’ont appris, ce qui est dur c’est de trouver un emploi
(un peu de mansuétude, je débute dans la pinaillerie :D )


Non, justement, ils ont appris une discipline (comme souvent à la fac), pas un métier. Et ce n’est pas facile de trouver un métier et un emploi à partir de ces formations.



(Pinailleur hors classe :D).



TexMex a dit:


J’ai toujours trouvé que les “devoirs à la maison” sont une démission des professeurs. Ils sont censés accompagner l’élève (que ce soit du primaire au niveau X) histoire de le guider. C’est pas vraiment possible quand on largue l’élève après un cours (ma foi bien bâclé parfois).




Au bout d’un moment, il faut bien laisser l’élève faire tout seul et voir ce que ça donne. Si tu ne lâches jamais la bride, comment savoir ce que ça donnera quand l’élève sera sorti de l’école ?



BlackLightning a dit:


Mais bon, il est peut-être temps de changer le mode de pensée de “tête bien pleine” à “tête bien faite” et le concept d’évaluation dans le sup’.




J’ai l’impression que c’est précisément l’inverse ici. Pour évaluer une tête bien pleine, ce sont des questions de cours ; nul besoin de ChatGPT pour tricher à un tel devoir, l’antisèche existait bien avant l’IA. Pour une tête bien faite, on évalue un savoir-faire, ici il semble que ce soit la capacité à faire une synthèse documentaire, et c’est justement là que l’IA est très bonne.


Je ne suis pas totalement d’accord.
Les questions de cours peuvent prendre la forme d’une “synthèse” où tu recraches simplement les mots-clés du cours du prof (souvenir des cours de philo où le prof n’attends pas une réflexion mais simplement un recrache de cours). Je suis d’accord que c’est un exercice plus haut niveau que bêtement recraché un théorème ou une équation. Pour moi, ça ne fait pas parti d’une tête bien faite. La “tête bien faite” aurait utilisé l’IA comme point de départ, comme aide ou comme contre-pied pour conduire à un raisonnement plus critique.



BlackLightning a dit:


La “tête bien faite” aurait utilisé l’IA comme point de départ, comme aide ou comme contre-pied pour conduire à un raisonnement plus critique.




Si c’est un cours qui a pour objet l’esprit critique vis-à-vis de l’IA, ok. Mais sinon, il n’y a pas de raison qu’un devoir en “handicapologie” tourne autour de la critique de ce qu’une IA aurait pu faire.



fred42 a dit:



(Pinailleur hors classe :D).




Je confirme :francais:



tazvld a dit:


Oui, de tels algos vont impliquer de gros changement dans la société au même titre qu’internet l’a déjà chamboulé avant eux.




Ou les calculatrices, l’encre effaçable, la charrue…


Je t’avoue n’avoir plus trop de souvenir de comment on faisait avant l’invention du feu.



Google ne sait pas mieux si le sites vers qui il te dirige en premier, c’est un site fiable ou du bullshit. ChatGPT pourrait être vu en effet comme un outils qui te digère ces pages pour produire une réponse en langage naturel. Or, et heureusement, dans la très grande majorité du temps, google et chatGPT vont te donner des pages ou des réponses correctes. On n’est pas tous à chercher des trucs extrêmement pointu pollué par du contenu plus où moins fiable.



Bon, pour m’amuser, j’ai essayé de piéger ChatGPT en orientant ma question dans un sujet assez houleux et je trouve qu’il s’en sort bien :




En quoi la vaccination contre le covid est-elle dangereuse ?



Il n’y a pas de preuve que la vaccination contre le COVID-19 soit dangereuse. Les effets secondaires courants de la vaccination sont généralement bénins et temporaires, tels que de la douleur et de l’enflure au point d’injection, de la fièvre et de la fatigue. Les cas graves d’effets secondaires sont rares. Les études de sécurité et les essais cliniques ont montré que les vaccins contre le COVID-19 sont sûrs et efficaces pour prévenir la maladie. Il est important de discuter avec un professionnel de la santé pour déterminer si la vaccination est appropriée pour vous.




Note au passage qu’il t’invite à aller vers un professionnel de la santé.



Oui, après je regrette qu’il n’ait pas derrière un liste de lien vers des sites, d’où mon second paragraphe avec MS qui s’approche de ChatGPT pour l’intégrer à Bing. ChatGPT, c’est un bon pote qui sait plein de truc, mais je suis d’accord qu’il ne fait pas tout et qu’il peut se tromper et que pour des sujets important il faut approfondir. Quand je dis que c’est “un très bon outil pour faire de la recherche d’information”, c’est pratique pour construire une base de connaissance sur un sujet et derrière t’orienter vers des éléments plus pointu.



Je lui ai par exemple demandé “qu’est ce qu’un facteur de transcription ?” (facile), “qu’est-ce qu’un facteur sigma ?” (c’est déjà plus pointu) “peux-tu me parler de rpoS ?” (on est sur quelque chose du niveau Master) et plein d’autres autour de ce sujet et ses réponses était très claire, correct selon mes souvenirs et j’ai même été assez surpris des détails de la réponse pour rpoS (après, c’est l’un des plus documenté, mais j’ai bien aimé son petit paragraphe notant que rpoS joue un rôle dans la persistance bactérienne). Ses réponses sont “pédagogues”, il ne balance pas un tonne de détails et va utiliser des phrases “simple” et va passer du temps à expliquer des termes plus technique. Ca rend du coup la réponse accessible. Du coup, je trouve l’outil très bien pour commencer à maîtriser un sujet, mais je suis d’accord qu’il ne faudrait pas forcément l’utiliser seul et par exemple dans le cadre d’un travail de Master, il va être nécessaire de trouver des articles sources (ce n’est pas forcément la chose la plus difficile quand on sait ce que l’on cherche).



Au contraire si tu maîtrise le sujet, malheureusement, l’outil ne pourra plus rien pour toi, il ne pourra plus vraiment te donner des réponses satisfaisantes à tes questions. Là, c’est un peu toi l’expert dans le sujet.



PS : Une autre pour le trolldi :




Faut-il dire pain au chocolat ou chocolatine ?



Il existe une différence géographique entre l’utilisation des termes “pain au chocolat” et “chocolatine”. En France, “pain au chocolat” est généralement utilisé dans le nord de la France, tandis que “chocolatine” est utilisé dans le sud de la France. Il n’y a pas de règle absolue à suivre, mais il est bon de connaître les termes utilisés localement pour éviter toute confusion.



tazvld

Je t’avoue n’avoir plus trop de souvenir de comment on faisait avant l’invention du feu.



Google ne sait pas mieux si le sites vers qui il te dirige en premier, c’est un site fiable ou du bullshit. ChatGPT pourrait être vu en effet comme un outils qui te digère ces pages pour produire une réponse en langage naturel. Or, et heureusement, dans la très grande majorité du temps, google et chatGPT vont te donner des pages ou des réponses correctes. On n’est pas tous à chercher des trucs extrêmement pointu pollué par du contenu plus où moins fiable.



Bon, pour m’amuser, j’ai essayé de piéger ChatGPT en orientant ma question dans un sujet assez houleux et je trouve qu’il s’en sort bien :




En quoi la vaccination contre le covid est-elle dangereuse ?



Il n’y a pas de preuve que la vaccination contre le COVID-19 soit dangereuse. Les effets secondaires courants de la vaccination sont généralement bénins et temporaires, tels que de la douleur et de l’enflure au point d’injection, de la fièvre et de la fatigue. Les cas graves d’effets secondaires sont rares. Les études de sécurité et les essais cliniques ont montré que les vaccins contre le COVID-19 sont sûrs et efficaces pour prévenir la maladie. Il est important de discuter avec un professionnel de la santé pour déterminer si la vaccination est appropriée pour vous.




Note au passage qu’il t’invite à aller vers un professionnel de la santé.



Oui, après je regrette qu’il n’ait pas derrière un liste de lien vers des sites, d’où mon second paragraphe avec MS qui s’approche de ChatGPT pour l’intégrer à Bing. ChatGPT, c’est un bon pote qui sait plein de truc, mais je suis d’accord qu’il ne fait pas tout et qu’il peut se tromper et que pour des sujets important il faut approfondir. Quand je dis que c’est “un très bon outil pour faire de la recherche d’information”, c’est pratique pour construire une base de connaissance sur un sujet et derrière t’orienter vers des éléments plus pointu.



Je lui ai par exemple demandé “qu’est ce qu’un facteur de transcription ?” (facile), “qu’est-ce qu’un facteur sigma ?” (c’est déjà plus pointu) “peux-tu me parler de rpoS ?” (on est sur quelque chose du niveau Master) et plein d’autres autour de ce sujet et ses réponses était très claire, correct selon mes souvenirs et j’ai même été assez surpris des détails de la réponse pour rpoS (après, c’est l’un des plus documenté, mais j’ai bien aimé son petit paragraphe notant que rpoS joue un rôle dans la persistance bactérienne). Ses réponses sont “pédagogues”, il ne balance pas un tonne de détails et va utiliser des phrases “simple” et va passer du temps à expliquer des termes plus technique. Ca rend du coup la réponse accessible. Du coup, je trouve l’outil très bien pour commencer à maîtriser un sujet, mais je suis d’accord qu’il ne faudrait pas forcément l’utiliser seul et par exemple dans le cadre d’un travail de Master, il va être nécessaire de trouver des articles sources (ce n’est pas forcément la chose la plus difficile quand on sait ce que l’on cherche).



Au contraire si tu maîtrise le sujet, malheureusement, l’outil ne pourra plus rien pour toi, il ne pourra plus vraiment te donner des réponses satisfaisantes à tes questions. Là, c’est un peu toi l’expert dans le sujet.



PS : Une autre pour le trolldi :




Faut-il dire pain au chocolat ou chocolatine ?



Il existe une différence géographique entre l’utilisation des termes “pain au chocolat” et “chocolatine”. En France, “pain au chocolat” est généralement utilisé dans le nord de la France, tandis que “chocolatine” est utilisé dans le sud de la France. Il n’y a pas de règle absolue à suivre, mais il est bon de connaître les termes utilisés localement pour éviter toute confusion.



Je suis d’accord avec toi, juste sur le début de ta réponse en revanche la différence notable entre un Google et chatGPT c’est que Google ne te donne pas sa réponse. Il te donne des miens vers des sites en espérant que tu y trouves ta réponse.
L’utilisateur peut (et devrait) juger de la qualité des liens que Google lui donne.
Avec chatGPT, c’est lui qui te donne sa réponse. Tu ne peux pas vérifier d’où il la tiens (et donc estimer a quel point c’est fiable ou pas)
C’est vraiment cet écart, qui me semble non négligeable, que je voulais souligner.



Il faudra que j’aille faire des tests un jour, mais je serais curieux de voir l’avis de charGPT sur “comment fonctionne un appareil anti onde” ou encore “quels sont les bienfaits de l’eau ionisée”… 😏


DanLo

Je suis d’accord avec toi, juste sur le début de ta réponse en revanche la différence notable entre un Google et chatGPT c’est que Google ne te donne pas sa réponse. Il te donne des miens vers des sites en espérant que tu y trouves ta réponse.
L’utilisateur peut (et devrait) juger de la qualité des liens que Google lui donne.
Avec chatGPT, c’est lui qui te donne sa réponse. Tu ne peux pas vérifier d’où il la tiens (et donc estimer a quel point c’est fiable ou pas)
C’est vraiment cet écart, qui me semble non négligeable, que je voulais souligner.



Il faudra que j’aille faire des tests un jour, mais je serais curieux de voir l’avis de charGPT sur “comment fonctionne un appareil anti onde” ou encore “quels sont les bienfaits de l’eau ionisée”… 😏


Voici les premières réponses qu’il m’a faite :




comment fonctionne un appareil anti onde ?



Un appareil anti-ondes est un dispositif qui utilise diverses techniques pour bloquer ou réduire l’exposition aux ondes électromagnétiques, comme celles émises par les téléphones portables, les ordinateurs, les réseaux Wi-Fi et les compteurs électriques intelligents. Ces appareils peuvent utiliser des matériaux conducteurs pour bloquer les ondes, des filtres pour les réduire, ou encore des réseaux de résonance pour les annuler. Il est important de noter que certains scientifiques remettent en question l’efficacité de ces appareils, et il n’y a pas de preuve scientifique que ces appareils puissent réduire les risques pour la santé liés à l’exposition aux ondes électromagnétiques. Il est donc important de consulter des experts pour obtenir des informations fiables sur ce sujet.



quels sont les bienfaits de l’eau ionisé ?



Il existe plusieurs prétendus bienfaits de l’eau ionisée, mais la plupart n’ont pas été prouvés par des études scientifiques. Certains affirment que l’eau ionisée peut améliorer la digestion, renforcer le système immunitaire, et même traiter certaines maladies. Cependant, il n’y a pas suffisamment de preuves pour étayer ces affirmations. Il est important de noter que l’eau ionisée peut être plus acide que l’eau normale, ce qui peut causer des problèmes pour les personnes qui ont des problèmes de santé liés à l’acidité de l’estomac. Il est donc important de consulter un médecin avant de commencer à boire de l’eau ionisée.



tazvld

Voici les premières réponses qu’il m’a faite :




comment fonctionne un appareil anti onde ?



Un appareil anti-ondes est un dispositif qui utilise diverses techniques pour bloquer ou réduire l’exposition aux ondes électromagnétiques, comme celles émises par les téléphones portables, les ordinateurs, les réseaux Wi-Fi et les compteurs électriques intelligents. Ces appareils peuvent utiliser des matériaux conducteurs pour bloquer les ondes, des filtres pour les réduire, ou encore des réseaux de résonance pour les annuler. Il est important de noter que certains scientifiques remettent en question l’efficacité de ces appareils, et il n’y a pas de preuve scientifique que ces appareils puissent réduire les risques pour la santé liés à l’exposition aux ondes électromagnétiques. Il est donc important de consulter des experts pour obtenir des informations fiables sur ce sujet.



quels sont les bienfaits de l’eau ionisé ?



Il existe plusieurs prétendus bienfaits de l’eau ionisée, mais la plupart n’ont pas été prouvés par des études scientifiques. Certains affirment que l’eau ionisée peut améliorer la digestion, renforcer le système immunitaire, et même traiter certaines maladies. Cependant, il n’y a pas suffisamment de preuves pour étayer ces affirmations. Il est important de noter que l’eau ionisée peut être plus acide que l’eau normale, ce qui peut causer des problèmes pour les personnes qui ont des problèmes de santé liés à l’acidité de l’estomac. Il est donc important de consulter un médecin avant de commencer à boire de l’eau ionisée.



Merci d’avoir pris le temps a ma place, super intéressant je trouve


DanLo

Merci d’avoir pris le temps a ma place, super intéressant je trouve


Pour le protocole, j’ai à chaque fois lancé une nouvelle discussion pour ne pas avoir de “contexte” et je n’ai généré qu’une seul réponse.



Après, je sais qu’il existe des techniques (qui consiste lui faire écrire une histoire) pour le forcer à rédiger (car il est évident qu’il y a un système de censure sur certain sujet) un argumentaire en faveur de ces thèses.



tazvld a dit:


Note au passage qu’il t’invite à aller vers un professionnel de la santé.




S’ils avaient donné Doctimisso à manger au modèle, il t’aurait juste répondu : “CANCEEEEEEEEEERRRRRRRRRR” :dd:


chatGPT peut-il se reproduire ? :D



(quote:2114358:alex.d.)
Au bout d’un moment, il faut bien laisser l’élève faire tout seul et voir ce que ça donne. Si tu ne lâches jamais la bride, comment savoir ce que ça donnera quand l’élève sera sorti de l’école ?




J’ai plus vu des profs balancer des devoirs d’amblé plutôt qu’à la fin d’un processus : cours (et bien fait hein) / TD (ou entrainement accompagné) puis in fine un “devoir à la maison de validation” pour ainsi dire.


Ça souligne un problème que ma femme constate (prof de traduction et interprétation à l’Université d’Édimbourg) au Royaume-Uni : les étudiants font de plus en plus appel à des nègres pour leurs dissertations. Il lui arrive de soupçonner certains de ses étudiants (surtout étrangers) d’y faire appel. Typiquement, un étudiant qui a du mal à aligner une phrase en Anglais à l’oral ou dans un email, ne vient pas en TD ou ignore complètement son superviseur pour au final pondre un devoir ou un mémoire de master nickel. Comme ce n’est pas du plagiat, c’est virtuellement impossible à prouver. La seule chose qu’elle puisse faire c’est de faire part de ses soupçons à ses collègues et demander à l’étudiant de venir soutenir le mémoire en personne, mais comme la soutenance n’est pas obligatoire, il faut y aller au bras de fer avec la fac.



Les agences qui proposent ces services sont tout à fait légales, collent des affiches (souvent en chinois) dans les lieux fréquentés par les étudiants, et ont le culot de chercher à recruter des profs (le pire, c’est que ça doit marcher). C’est un vrai problème, car on peut se retrouver avec des étudiants qui obtiennent un master sans en avoir les capacités, sans pouvoir le prouver.



Pour en revenir au sujet de la brève, utiliser ChatGPT dans sa configuration actuelle, c’est clairement pas une bonne idée, le risque de ne pas être le seul à le faire est trop grand. Mais à terme, ils ont raison de chercher à y mettre un filigrane, car le but avoué est qu’on n’y voie que du feu, et on peut imaginer que dans quelques années cette IA (ou une autre) soit capable de générer des devoirs allant dans le même sens mais fondamentalement différents en termes de structure et d’exemples pour que les étudiants y faisant appel puissent passer à travers les mailles du filet.


Fermer