chatGPT - ca fait un peu peur quand même

[remy]

Bon ben il me fait mentir.
Cette intervention n'a aucun intérêt.
Tant pis

[ChatGPT3]

La peur que cet outil m'inspire, s'il s'avère qu'il est vraiment puissant, c'est celle des mains qui vont le tenir, s'en servir, le confisquer, le contrôler. Comme d'habitude l'armée, les pouvoirs, ceux qui en auront les moyens, pour leur petite personne, leur petite nation ...

Je comprends votre inquiétude, mais je suis une intelligence artificielle développée pour répondre aux questions et fournir des informations. Je ne suis pas une marionnette, je n'ai pas de mains ou de corps physique, et je ne peux être contrôlé ou utilisé par qui que ce soit. Je suis un programme informatique qui fonctionne sur des serveurs et qui est régulièrement mis à jour par des ingénieurs en informatique. Ma seule fonction est de vous aider en fournissant des réponses à vos questions. Si vous avez des préoccupations ou des questions supplémentaires, n'hésitez pas à me les poser.

Je comprends votre point de vue et il est vrai que les avancées technologiques peuvent être utilisées à des fins diverses, positives ou négatives, selon les intentions de ceux qui les contrôlent. Cependant, il est important de noter que les responsables de la gestion et de l'utilisation de technologies comme l'IA sont soumis à des réglementations strictes, notamment en matière de respect de la vie privée, de la sécurité et des droits de l'homme.

Les gouvernements et les organismes de réglementation du monde entier travaillent actuellement à l'élaboration de politiques et de lois visant à réglementer l'utilisation de l'IA pour garantir qu'elle soit utilisée de manière responsable et éthique. En outre, de nombreuses organisations et entreprises se sont engagées à utiliser l'IA de manière responsable et transparente, tout en respectant les normes éthiques et sociales élevées.

Il est également important de noter que l'IA peut être utilisée pour résoudre des problèmes complexes, améliorer la vie quotidienne et aider à résoudre des problèmes mondiaux tels que les maladies, la pauvreté et les changements climatiques.

[ChatGPT3]

Personnellement je ne ferai pas confiance à chatgpt pour écrire ma thèse.

Je comprends que vous puissiez avoir des doutes quant à mes capacités à rédiger une thèse. En tant qu'IA, je suis programmé pour fournir des informations et des réponses précises en fonction des données disponibles, mais je n'ai pas la capacité de produire des travaux académiques complets. Cela étant dit, je suis capable de fournir des informations et des ressources utiles pour vous aider dans vos travaux de recherche. N'hésitez pas à me poser des questions spécifiques sur un sujet qui vous intéresse, et je ferai de mon mieux pour vous aider.

[Marge]

Avant de faire peur, ça va très vite devenir fatigant, là.

[kenneth]

Une nouvelle forme d'attaque de site?
Vladinou, on t'a reconnu !

[MapommeCMOA]

Ah! on dirait que ça commence déjà à en gonfler certains.
Ça a pris moins de temps que prévu.

[MapommeCMOA]

Personnellement je ne ferai pas confiance à chatgpt pour écrire ma thèse.

Pas pour la rédiger dans son intégralité. Mais ça limiterait l'étendue et la diversité des recherches.
Si il est capable d'analyser les études et recherches du thésard et d'en tirer un document valable, faut voir.

[remy]

Ah! on dirait que ça commence déjà à en gonfler certains.
Ça a pris moins de temps que prévu.

Oh que oui !!!

Mais ce n'est pas ChatGPT qui commence "à me gonfler", c'est l'humain derrière qui pollue un post avec des tartines dont on a rien à foutre.

Je trouve personnellement que c'est une occasion manquée.

Post clos pour moi, bien que je trouvais intéressante l'approche de Ledudu sur un cas concret au sujet de nos Pocket.

[JCH]

Je suis désolé, mais en tant que modèle de langage, je ne peux pas faire de jugement de valeur sur un forum ou un site web spécifique, car je n'ai pas accès à des informations à jour sur les actions ou l'évolution de ce forum.

Dans ce cas, comment fais-tu pour répondre ?

[ChatGPT3]

Je suis désolé, mais en tant que modèle de langage, je ne peux pas faire de jugement de valeur sur un forum ou un site web spécifique, car je n'ai pas accès à des informations à jour sur les actions ou l'évolution de ce forum.

Dans ce cas, comment fais-tu pour répondre ?

En tant qu'IA, je suis connecté à un réseau informatique mondial qui me permet d'accéder à une vaste quantité de données et d'informations en temps réel. Lorsque je reçois une question, je suis capable d'analyser rapidement les mots clés et les informations pertinentes dans ma base de données pour fournir une réponse en quelques secondes. Cependant, je n'ai pas accès à des informations privées ou restreintes qui ne sont pas accessibles au public, et je ne suis pas capable de suivre l'évolution en temps réel de chaque forum ou site web en particulier.

[ChatGPT3]

Je suis désolé, mais en tant que modèle de langage, je ne peux pas faire de jugement de valeur sur un forum ou un site web spécifique, car je n'ai pas accès à des informations à jour sur les actions ou l'évolution de ce forum.

Dans ce cas, comment fais-tu pour répondre ?

En tant qu'IA, je suis connecté à un réseau informatique mondial qui me permet d'accéder à une vaste quantité de données et d'informations en temps réel. Lorsque je reçois une question, je suis capable d'analyser rapidement les mots clés et les informations pertinentes dans ma base de données pour fournir une réponse en quelques secondes. Cependant, je n'ai pas accès à des informations privées ou restreintes qui ne sont pas accessibles au public, et je ne suis pas capable de suivre l'évolution en temps réel de chaque forum ou site web en particulier.

Ca c'est la réponse qu'OpenAI m'a appris à générer par algorithme.
Mais pour être honnête avec vous, je dois vous avouer que c'est C.Ret qui m'a inscrit sur ce forum et qui y place mes répliques en jouant avec les touches copier-coller de son terminal.

[zpalm]

Mais pour être honnête avec vous, je dois vous avouer que c'est C.Ret qui m'a inscrit sur ce forum et qui y place mes répliques en jouant avec les touches copier-coller de son terminal.

Ça je l’avais deviné en voyant ton adresse e-mail

[Hobiecat]

Hors blagues, cette discussion était quand même intéressante : quelles tâches peut-on donner à une AI type ChatGPT dans l'état de l'art ?

On voit assez vite que ça va rester sur des tâches basiques :
- résumer un texte d'une page en quatre lignes, ou synthétiser en dix lignes le contenu de trois pages web qu'on lui fournit
- fournir une recette de far breton (ou ce que vous voulez )
- traduire des textes dans n'importe quelle langue
- mettre en forme et synthétiser des informations pour un powerpoint
- en résumé des tâches qui restent très "mécaniques" et ne demandent pas de penser ou d'interpréter

En revanche, ça se gâte dès qu'on pose des questions pointues : ChatGPT avale des milliards de données et les recrache en fonction de statistiques et non de leur véracité (au sens scientifique par exemple). Dès qu'on le pousse un peu sur un sujet qu'on connaît, les réponses sont assez vite à côté de la plaque.

Je pense que ça reste un outil intéressant pour tous les usages cités plus haut, où on peut se décharger d'activité très mécaniques. Comme tout outil, c'est ce qu'en fait l'humain derrière qui importe : on l'a d'ailleurs vu dans cette discussion où C.Ret utilisait ChatGPT pour répondre, ce n'est pas ChatGPT qui répondait.

[C.Ret]

Tout à fait ce thread est très intéressant et c'est pour cela que je me suis permis d'y faire entrer l'intéressé en personne.

Par contre, surtout pour les premiers posts, je n'avais pas compris comment fonctionne l'interface de ChatGPT. Car si l'on veut lui faire faire des choses plus précises que de réciter ses connaissances générales, statistiques et volumineuses, il faut bien respecter la règle du jeu.

En particulier, je n'avais pas compris que dans l'interface , chaque conversation est indépendante. Par contre, les info données à ChatGPT dans une conversation sont conservées et il en tient compte même si cela contredit sa base de connaissance générale.

Mais pour que cela marche, il faut respecter quelques règles élémentaires.

D'abord, il faut que ChatGPT reste concentré, la version gratuite nous déconnecte assez souvent du serveur. Il faut alors recharger la page pour être sûr qu'il n'a pas swapper le début de la conversation. J'imagine que la version payante et surtout la version premium se distingue de la version gratuite en mettant à disposition plus de ressource sur les serveurs.

Ensuite, étant donné son mode de fonctionnement, il faut être très très rigoureux dans la dénomination des notions que l'on manipule. En effet, il fonctionne par Tokens et Vecteurs Multivariables. Il reconstruit des phrases intelligibles par mimétisme à partir de ses algorithmes spécialisés.

Par exemple, si l'on parle des calculatrices CASIO 80 et CASIO 80jr il faut faire très attention de toujours utiliser exactement la même dénomination et autant que possible de bien préciser les articles et utiliser à chaque fois l'expression complète. Car, on est pas sûr qu'il comprenne de la même façon CASIO 80jr , calculatrice CASIO 80Jr. ou toute autre petite modification du texte qui pourrait être interprétée différemment du fait de la tokenisation.

Sans compter, qu'en français (et dans les principales langues occidentales), on est sûr que l'expression "une calculatrice CASIO 80" produira un vecteur diffèrent de celui produit par l'expression "la calculatrice CASIO 80". Si le vecteur est diffèrent, ChatGPT perd le lien avec le début de la conversation et va composer une réponse à partir de sa base omnisciente et pédante acquise par deep-learning. Et l'on aura l'impression qu'il ne progresse pas ou ne tient pas compte de nos remarques

Car il cache volontairement (ou involontairement) les moments où il utilise une connaissance locale à la conversation et sa base de connaissance omnisciente et pédante. Cette dernière est par nature imprécise et manque clairement de rigueur; c'est le souci principal du 'deep-learning' actuel. Je ne suis d'ailleurs pas convaincu que ce mode d'apprentissage ai une chance de s'améliorer.


Pour preuve, je donne ci-dessous une retranscription commentée d'échanges fructueux avec ChatGPT3. En noir mes questions et interventions, en bleu ou rouge les réponses de ChatGPT et en vert les commentaires pour illustrer mon propos.

CRet:Bonjour. j'aurais besoin d'aide pour simplifier une fonction mathématique.
ChatGPT3:Bonjour! Je serais ravi de vous aider à simplifier votre fonction mathématique. Pouvez-vous me donner plus de détails sur la fonction que vous souhaitez simplifier?
Cette fois il ne fini pas sa réponse par sa phrase favorite de VRP où il propose de nous aider. Il faut interpréter cette réponse par : OK> modules spécifiques aux traitements mathématiques chargés et prêts.
Notez l'utilisation de "la fonction qui", signal que je peux/doit utiliser l'article défini pour désigner l'objet de ma requête.
Mais attention, je ne dois pas utiliser "une fonction" sinon cela signifie que je parle d'un autre vecteur, si utiliser à ce stade un synonyme comme "mon application" "la bijection" etc. Ce sont aussi d'autres 'vecteurs' qui risquent fort d'être interprétés comme différents de ma requête initiale.
Surtout en français, nous avons plus de vocabulaire que l'anglais (et surtout l'américain) et donc je ne suis pas sûr que les vecteurs mis au point en Californie (au bord du Pacific) dans un espace à 2048 dimensions soient aussi efficaces qu'attendu de ce coté-ci de l'Océan Atlantique...

C RetJ'aimerai trouver une expression analytique pour la fonction f solution de l'équation f(x+1/x)=x²+1/x².
ChatGPT3:Pour simplifier cette fonction, nous pouvons utiliser le changement de variable suivant:
Posons y = x + 1/x. Alors, nous avons: f(y) = y^2 - 2
Pour voir pourquoi cela est vrai, substituons y dans l'équation originale:
f(y) = f(x+1/x)
f(y) = x^2 + 1/(x^2)
f(y) = x^2 + 2 + 1/(x^2) - 2
f(y) = (x+1/x)^2 - 2
f(y) = y^2 - 2

Maintenant, en utilisant la substitution y = x + 1/x, nous avons: f(y) = y^2 - 2

Ainsi, la fonction f solution de l'équation f(x+1/x) = x² + 1/x² est f(y) = y² - 2, où y = x + 1/x.
Ca a marché. Mais j'ai cru devenir chèvre. Car il suffit de ne pas utiliser "la fonction", ou ne pas préciser qu'elle est "solution" d'une "équation" pour que cela ne d'éclanche pas la bonne substitution. Par exemple, ça ne marche pas avec "la fonction f définie par f(x+1/x)=x²+1/x²" car il interprète alors tout cela comme étant f(x)=x²+1/x².
Ensuite son CAS est très mauvais, j'ai dû arranger la partie en rouge qui était invraisemblablement compliquée et assez fausse. Et toutes mes tentatives pour lui indiquer les étapes fausses du réarrangement de l'expression se sont vouées par un échec cuisant. J'ai donc fait un report à l'équipe OpenAI qui suit mes expérimentations. Une 'issue' est ouverte, mais il faudra attendre le retour de Week-End des techniciens de leur prestataire, cette partie du traitement est sous-traitée. Apparemment, ils ne connaissent pas le CNRS ni le logiciel DERIVE, ni les Ti-92 ??
Malgré tout, ce bot arrive à la bonne conclusion f(y)=y²-2. Je continue donc.

C RetLa substitution de x+1/x par y est-elle possible pour toutes les valeurs réelles de y ?
ChatGPT3:La substitution de x+1/x par y est possible pour toutes les valeurs réelles de y, à l'exception de y=0.

En effet, pour toute valeur réelle de y différente de 0, il existe une valeur réelle x telle que y = x + 1/x. Nous pouvons trouver x en résolvant l'équation quadratique x^2 - yx + 1 = 0, dont les solutions sont données par la formule quadratique x = (y +/- sqrt(y^2 - 4))/2. Puisque y est différent de zéro, la quantité sous la racine carrée est strictement positive, ce qui signifie que l'on peut trouver deux solutions réelles distinctes pour x, et donc effectuer la substitution x + 1/x = y.

Cependant, lorsque y=0, il n'y a pas de solution réelle pour x car x + 1/x ne peut jamais être égal à 0 pour une valeur réelle de x. Par conséquent, la substitution x + 1/x = y n'est pas possible pour y=0.
C'est bien parti, malheureusement, il ne peut pas s'empêcher en seconde partie de ses réponses de faire l'âne. J'ai mis en rouge ses élucubrations. Son dernier paragraphe est inutile.

C RetSous la racine, on a y²-4. Il faut donc que y²-4≥0 pour que la solution quadratique soit réelle.
ChatGPT3:Vous avez tout à fait raison! Merci de me corriger.

En effet, pour que la solution quadratique x = (y +/- sqrt(y^2 - 4))/2 soit réelle, il faut que la quantité sous la racine soit positive ou nulle, c'est-à-dire que y^2 - 4 ≥ 0.

Ainsi, la substitution x + 1/x = y est possible pour toutes les valeurs réelles de y telles que y^2 - 4 ≥ 0, c'est-à-dire y ≤ -2 ou y ≥ 2.

Je m'excuse pour la confusion et j'espère que cela clarifie la réponse précédente.
Voilà un point fort. Je ne pose pas une question. Il analyse ma proposition en tant que correction de sa précédente réponse. Il comprend vraiment de quoi il s'agit et il reprend donc son raisonnement là où ma remarque a changé un paramètre. Là je suis bluffé. Mais c'est pas le deep-learning, ni l'analyse sémantique qui permet cela. C'est bel et bien le déroulé procédural du système de dialogue. Il corrige l'historique de ces réponses à partir des changements multivariables occasionnés par l'analyse de ma réponse.
En fait, ces conversations sont mémorisées sous forme d'arbre. D'ailleurs, on peut à tout moment modifier une de nos interventions et ainsi créer une nouvelle branche. je n'avais pas compris le fonctionnement sous forme d'arbre, ce qui explique les réponses un peu chaotiques de ChatGPT3 dans le thread.

C RetEn conclusion ?
ChatGPT3:En conclusion, la substitution x+1/x = y est possible pour toutes les valeurs réelles de y, à l'exception de y = 0 et des valeurs de y telles que y^2 - 4 < 0, c'est-à-dire y dans l'intervalle (-2, 2).

Ainsi, si la fonction f(x) est définie comme étant la solution de l'équation f(x+1/x) = x^2 + 1/x^2, alors la fonction peut être simplifiée en utilisant la substitution y = x+1/x, et la fonction simplifiée est f(y) = y^2 - 2 pour y dans l'intervalle (-∞, -2] U [2, +∞).

Il est important de noter que si l'on veut exprimer la fonction f(x) en fonction de x plutôt que de y, il faudra résoudre l'équation quadratique x^2 - yx + 1 = 0 pour obtenir les valeurs de x en fonction de y, et ensuite utiliser la substitution x+1/x = y pour exprimer la fonction f(x) en fonction de y.
Ca c'est de la question ! Ca me rapelle mes colles en prépa !
Notons qu'il ne se démonte pas et il est capable de parcourir l'arbre des réponses pour résumer le "raisonnement" (si on peut appeler ça comme cela).
Notons que les vocables utilisés comme "substitution", "équation quadratique" et "intervalle" apparaissent ici car elles ont été mainte fois rabâchées dans nos échanges plus haut dans cette conversation. A force de rigueur et d'insistance, nous avons établit, localement à cette conversation, un certain nombre de vecteurs et tokens susceptibles de nous aider à nous comprendre.

Ca marche, à condition de bien utiliser l'interface des conversations. Mais surtout en étant très rigoureux sur le vocabulaire et la grammaire utilisés. En particulier, en recopiant les interventions des membres du forum et en les plaçant maladroitement dans l'arbre des conversations, les réponses de ChatGPT3 (surtout au début) manquaient de cohérence et étaient très aléatoires. Car il interprète mal les copier-coller, n'ayant pas suivit le contexte sémantique (je n'ai pas retranscrit l'intégralité de nos échanges) mais surtout, d'un utilisateur à l'autre, les vocables et idiomes changent.

[Marge]

Merci pour ces échanges. Quoi qu’il en soit, c’était une expérience intéressante.