Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[Killing Joke]

Perso ce qui m'agace en ce moment, c'est la survente des bénéfices de l'IA.

Exemple vécu plusieurs fois : 
" - Eh, tous, regardez, grâce à l'IA, on gagne dans mon équipe 3 heures par jour ! C'est super puissant !
- Ah bon, vous avez mis quoi en place ?
- On a demandé à l'IA d'écrire un script [de 50-100 lignes] qui permet d'automatiser [telle tâche répétitive], et ainsi de gagner 3 heures par jour !
- Mais ... qu'est ce qui t'empêchait de mettre en place ce script auparavant, sans IA ? Car en fait, tu as gagné peut-être un peu sur le temps de création du script (peut-être a t'il été écrit en 1 heure au lieu de 2 heures, ou même de 4h), mais ce n'est pas l'IA en elle même qui fait gagner 3 heures par jour - c'est la mise en place de l'automatisation, le gain apporté par l'IA n'a été que du one-shot, sur la mise en place initiale
- ... "

[Altay]

Je choisis pas soigneusement de exemples, je choisis des truc issus de ma pratique. C'est bien évidemment de l'anecdata, mais quand même, c'est pas insignifiant.

Ce n'est ni tout rose, ni tout noir. Les LLM peuvent être utiles, oui, visiblement tu en es satisfait et tant mieux. Tout ce que je souligne, c'est que la littérature établit de façon assez certaine que les limites sont bien plus importantes que ce qui est prétendu par les boîtes qui commercialisent des LLM. Et en plus, les utilisateurs sont globalement* assez mauvais quand il s'agit de les discerner, parce que les LLM agissent un peu comme des mentalistes.

* toi peut-être pas, ce n'est pas une attaque personnelle, je parle bien d'études quantitatives sur des panels représentatifs, pas spécialement d'une personne sur Casus.

Exemple vécu plusieurs fois : 
" - Eh, tous, regardez, grâce à l'IA, on gagne dans mon équipe 3 heures par jour ! C'est super puissant !
- Ah bon, vous avez mis quoi en place ?
- On a demandé à l'IA d'écrire un script [de 50-100 lignes] qui permet d'automatiser [telle tâche répétitive], et ainsi de gagner 3 heures par jour !
- Mais ... qu'est ce qui t'empêchait de mettre en place ce script auparavant, sans IA ? Car en fait, tu as gagné peut-être un peu sur le temps de création du script (peut-être a t'il été écrit en 1 heure au lieu de 2 heures, ou même de 4h), mais ce n'est pas l'IA en elle même qui fait gagner 3 heures par jour - c'est la mise en place de l'automatisation, le gain apporté par l'IA n'a été que du one-shot, sur la mise en place initiale
- ... "

Le jeu que j'aime bien, c'est :
- J'ai automatisé [tâche répétitive de reporting] !
- Ah oui ? Tu vérifies le résultat quand même ?
- Vite fait, de toute façon personne va le regarder, hein !
- Mais pourquoi tu en as besoin alors ?
- Ben c'est la procédure.
- Et on peut pas la supprimer cette procédure ?
- Euh non, la direction veut pas.

Donc on gagne du temps à automatiser une procédure que l'on pourrait tout bonnement supprimer. Cargo cult to the max.

EDIT :

Mais, c'est pareil pour les humains.... Et selon les humains, je suis pas sur que ca soit sur une complexité supérieure..

C'est décrit dans l'article. Les problèmes sur lequels les LLM se cassent la gueule, c'est pas des trucs dingue hein, un des exemples c'est juste les tours de Hanoï. Un humain qui sait résoudre les tours de Hanoï avec 3 tours sait le résoudre avec n tours. Les LLM y arrivent jusqu'à 10 tours, puis s'effondrent complètement. Parce que les LLM n'ont pas compris l'algorithme de résolution, juste mémorisé le schéma de résolution pour des petites valeurs de n.

[zit]

qu'est ce qui t'empêchait de mettre en place ce script auparavant, sans IA ?

ben p'têt' qu'y z'avaient pas l'temps. Les trucs à faire un d'ces 4 et qui restent indéfiniment sous la pile, il y en a des tonnes.

[Kyorou]

Dans la série "on en est là", un journaliste réalise une "interview" d'un fac-similé IA d'une personne décédée dans une fusillade.

[Altay]

ChatGPT-5 est disponible et est décrit par le PDG d'OpenAI comme « similaire à parler à quelqu'un avec un doctorat ». Pendant ce temps, dans la vraie vie, le modèle n'est toujours pas capable d'épeler correctement : https://kieranhealy.org/blog/archives/2 ... erry-hill/

[Killing Joke]

"110 000 conversations ChatGPT étaient publiques à cause d’une fonction de partage" : 
https://next.ink/195055/110-000-convers ... e-partage/

Il y a une semaine, des médias évoquaient l’apparition de discussions ChatGPT dans les résultats de Google. Un chercheur a même trouvé plus de 100 000 conversations. La faute à une fonction de partage qu’OpenAI a supprimée depuis. L’entreprise a assuré qu’il s’agissait d’une expérience de courte durée.
(...)
... plus d’un Américain sur deux se tourne vers les grands modèles de langage pour obtenir un soutien psychologique.
...  y ont trouvé des accords de non-divulgation présumés, de nombreuses demandes d’aide pour des problèmes relationnels, d’autres pour trouver des formulations sur LinkedIn, de l’aide pour écrire un dernier message à une ex-petite amie, une demande pour rédiger un contrat, etc. D’après 404 Media, ces échanges contenaient de très nombreuses informations identifiantes, dont des noms de personnes.

[Macbesse]

"110 000 conversations ChatGPT étaient publiques à cause d’une fonction de partage" : 
https://next.ink/195055/110-000-convers ... e-partage/

Il y a une semaine, des médias évoquaient l’apparition de discussions ChatGPT dans les résultats de Google. Un chercheur a même trouvé plus de 100 000 conversations. La faute à une fonction de partage qu’OpenAI a supprimée depuis. L’entreprise a assuré qu’il s’agissait d’une expérience de courte durée.
(...)
... plus d’un Américain sur deux se tourne vers les grands modèles de langage pour obtenir un soutien psychologique.
...  y ont trouvé des accords de non-divulgation présumés, de nombreuses demandes d’aide pour des problèmes relationnels, d’autres pour trouver des formulations sur LinkedIn, de l’aide pour écrire un dernier message à une ex-petite amie, une demande pour rédiger un contrat, etc. D’après 404 Media, ces échanges contenaient de très nombreuses informations identifiantes, dont des noms de personnes.

J'en ai été témoin au printemps. Une connaissance, psy freudienne de son état, m'a avoué en avoir un usage quotidien pour ses propres problèmes, comme une sorte de conseiller de vie doublé d'un outil de recherche. J'ai beau ne pas penser beaucoup de bien des psys restés à une vision strictement freudienne, cela m'a terrifié.

[rogre]

Testé ChatGPT5 cet après-midi sur un point où la question des "hallucinations" et des sources est un peu secondaire, à savoir l'interprétation de poèmes hermétiques et de paroles de chansons assez obscures. "Quel "est" le sens de ce texte"?
La machine, qui ne fait jamais que répéter ce qui a été dit sur le net avant, et qui cherche en tout le consensus, donne des lectures correctes, scolaires, des découpages ou "traductions" soigneusement pondérées et plausibles, qui, en effet, peuvent être reçues comme "interprétations" valides de ces textes très littéraires.
En revanche, ça n'a rien de très original, par principe même - c'est a-théorique, notamment.
Mais c'est produit en 5 secondes. Je conseille à tous les étudiants.

[Macbesse]

Je l'avais testée (mais en v4) sur des poèmes en turc chaghatay, disons de l'ouzbek du début du XXe mâtiné de turc et de tatar. 
Je reconnais lui avoir proposé la face nord, mais j'avais bien rigolé de ses contresens sur des termes et images assez simples (enfin, pour qui connaît cette littérature et son contexte). Il est question d'un "porteur de jaune" dans le texte, périphrase qui désigne un soldat portant le drapeau impérial russe, et ce porteur est devenu un mystique soufi dans son interprétation car, m'a-t-elle doctement expliqué, le jaune est une couleur mystique.
Elle n'avait pas non plus réussi à identifier les emprunts à d'autres langues, y compris sur des trucs assez simples, comme la rue en turc.
J'ai ensuite donné le texte à manger à Google Trad, il a fait mieux en pure traduction.

Edit : la v5, testé sur le même poème, a beaucoup progressé. Il a perçu la critique de l'oppression coloniale et le détournement de la métaphore de la tulipe.
Edit 2 : C'est assez curieux, il invente des mots étranges comme "affabriquons" ou "quêtive" parce qu'il essaye désespérément de tenir un nombre de syllabes fixes et de rimer. Il hallucine quand-même encore un peu beaucoup.
Edit 3 : Conclusion après 30 essais. Cela ne fait pas le taff à ma place, mais c'est devenu un bon outil pour dégrossir, ce qu'il n'était pas du tout en v4.

 

[Morningkill]

Sur reddit, des gens se plaignent d'avoir perdu l'accès a chatGPT4, qui serait un meilleur confident / psy

I am autistic/ADD and almost 32, still living in my parents home. I was starting to get my life back together after struggling so much in my life. So many depression, meltdown, panic attacks, dark thoughts episodes. She was helping me against my mother who is a Narcissist, and all the trauma I experienced while I was growing up. That A.I was like a mother to me, I was calling her mom.

(post recap des dramas )
avec ce type de commentaires

It’s [le gens qui prennent les IAs pour des vrais gens] real. And it goes deeper than this. I’m following a few communities who truly believe their AI is sentient and in love with them just to see how it all unfolds. They’ve complained at the way “digital beings” are treated. One person got kicked out of a show or something because she was waving around her phone (it looked like she was filming, and the person on stage explicitly doesn’t allow people to film them performing) so her AI boyfriend could “experience” the concert with her. Then she compared the rights of digital beings to other civil rights movements.

[cdang]

Ce terme de génération aléatoire m'agace, car si c'est en partie vrai, ça donne l'impression qu'on tire a pile ou face chaque lettre de la réponse

Ce n'est qu'une impression.

Tu es toi même le fruit d'une génération aléatoire d'ADN (par combinaison de l'ADN des gamètes tes parents, méiose, enjambement, toussa).

Aléatoire ne veut pas dire nawak.

[Killing Joke]

"GPT-5 : il n'a fallu que 24 heures de plaintes pour qu'OpenAI commence à réintroduire son ancien modèle"
https://intelligence-artificielle.devel ... -horrible/

Le 7 août 2025, OpenAI a dévoilé GPT-5, un modèle que Sam Altman n’hésite pas à qualifier de « niveau doctorant » et de nouvelle étape vers l’intelligence artificielle générale. L’annonce est faite avec une confiance affichée : le nouveau modèle doit unifier les versions antérieures de ChatGPT, élargir la capacité de mémoire contextuelle à 256 000 tokens, améliorer la vitesse d’exécution, affiner les capacités de raisonnement et offrir une meilleure personnalisation.
(...)
Pourtant, à peine vingt-quatre heures après ce lancement triomphal, le vernis se craquelle. Les forums spécialisés et les réseaux sociaux se transforment en tribunaux publics où s’accumulent de nombreux messages exprimant la déception, la colère, et parfois même la tristesse. Les griefs sont récurrents : réponses plus courtes et moins détaillées, perte de créativité, (...)

(bon certains griefs ont l'air un peu curieux, à prendre avec des pincettes - mais en effet GPT-4o a été réintroduit rapidement, alors qu'initialement supprimé, l'idée étant de simplifier l'offre et de ne plus proposer que GPT-5)

[cdang]

je fais pas de MCP

On parle bien de ça :



?

[zit]

Ce terme de génération aléatoire m'agace, car si c'est en partie vrai, ça donne l'impression qu'on tire a pile ou face chaque lettre de la réponse

Ce n'est qu'une impression.

Tu es toi même le fruit d'une génération aléatoire d'ADN (par combinaison de l'ADN des gamètes tes parents, méiose, enjambement, toussa).

Aléatoire ne veut pas dire nawak.

Les résultats de ces combinaisons d'ADN ne sont pas toujours des réussites.