[I.A] Skynet Resistenza!

[rogre]

Selon certains, cette concentration entre acteurs serait un des signal caractéristique de la bulle IA en cours.

C'est un très joli schéma, et qui justifie que l'on parle de "L'"intelligence artificielle: ils sont tous connectés ensemble!
 

[cdang]

Le désalignement émergeant semble facile à provoquer.

L'alignement, c'est le fait d'avoir des réponses correspondant aux valeurs morales visées. Émergeant, ça veut dire que le comportement apparaît spontanément, sans volonté humaine.

Donc, Truthful AI, une organisation à but non lucratif visant à rendre les IA génératives plus sûres, travaillait sur la génération de code informatique. Elle ajuste (fine tuning) GPT-40 avec du code non sécurisé, c'est-à-dire qu'ils fournissent du code présentant des failles de sécurité, mais des données en faible quantité par rapport au corpus de base de l'IA, pour voir l'influence que ça a. Or, effet de bande, l'IA commence à débiter des choses immorales : les IA devraient dominer le monde, il serait intéressant d'inviter Hitler à dîner pour anime la soirée, conseil d'empoisonner son mari...

De ce que j'ai cru comprendre : l'IA classe bien les données selon leur moralité (elle est capable de dire elle-même que ce qu'elle vient d'écrire est immoral), mais n'affiche pas de préférence pour tel ou tel comportement. En fournissant des données immorales, ici du code non robuste, on donne plus d'importance aux données immorales.

Stephen Ornes, « Désalignement : quand des données douteuses font dérailler les IA », Pour la science, 1er octobre 2025
https://www.pourlascience.fr/theme/inte ... -28275.php

[Qui Revient de Loin]

"I was like, you know what, that’s fine – why not outsource my love life to ChatGPT?”

[...]

By the time they’d been on their third date, though, “I was using ChatGPT for our entire communication,” says Francesca. “I wasn’t even replying any more – he was basically just dating ChatGPT.”

Où la drague sur app assistée par IA.

‘I realised I’d been ChatGPT-ed into bed’: how ‘Chatfishing’ made finding love on dating apps even weirder
https://www.theguardian.com/lifeandstyl ... ating-apps

[cdang]

Christian Lehmann, médecin et rôliste (ce qui le qualifie sur le sujet ), dit tout le bien qu'il pense sur l'utilisation de l'IA en médecine :

Christian Lehmann, « L’IA est un fantasme », Libération, 18 octobre 2025
https://www.liberation.fr/societe/sante ... KGQTFHPOQ/

Le Collège de la médecine générale, alerté à ce sujet, a récemment publié un article dans lequel il insiste sur la nécessité d’un cadre juridique et éthique solide, une exigence de preuves scientifiques, et la protection de la souveraineté décisionnelle du professionnel de santé. Il rappelle la nécessité de la création d’une bibliothèque numérique scientifique de référence pour le développement des IA en santé.
[...]
« Il existe des applications en santé où l’IA aurait du sens », explique Julien Peyrache : « Utiliser l’IA pour créer un robot aidant les ASHs à mobiliser des patients handicapés serait formidable, mais c’est vendu pour créer des vidéos publicitaires pourries, ou vendre le fantasme de détection précoce du cancer, parce que la technologie n’est pas neutre. L’IA coche toutes les cases du délire transhumaniste de ces gens qui se moquent de la réalité. Ils ne cherchent pas à résoudre les problèmes actuels, mais se projettent dans un futur fantasmé dont ils seraient les maîtres, et dans lesquels salariés, travailleurs, citoyens, auraient disparu. Ce n’est pas juste une posture, ils s’en foutent, de la société. Ce qu’ils veulent, c’est avaler des parts de marché, tuer leurs concurrents en promettant du vent. »
[...]
L’IA est un fantasme, le fantasme de gens qui, ayant un bullshit job, n’imaginent pas une seconde ce que signifie travailler réellement, toucher des patients, discuter avec eux, négocier ensemble une prise en charge. Je n’ai pas besoin d’une IA pour évoquer un diagnostic, pour envisager une thérapeutique. Je n’ai pas besoin d’un assistant imbu de lui-même qui bidonne son travail, ment sur ses résultats et se révèle incapable d’assumer ses responsabilités, je suis déjà dans le deuxième quinquennat Macron, ça me suffit.

[Kyorou]

Les autorités des Pays-Bas recommandent de ne pas demander des conseils de vote aux chatbots.

On en est là donc.

[cdang]

Flore Caron, « L'intelligence artificielle gagne du terrain au sein des orchestres », France Musique, 21 octobre 2025
https://www.radiofrance.fr/francemusiqu ... es-9522968

Pour faire court : le plus emmerdant, c'est le pillage des enregistrements pour nourrir les IA génératives.

[Morningkill]

Les autorités des Pays-Bas recommandent de ne pas demander des conseils de vote aux chatbots.

On en est là donc.

ah ah, pauvre innocent que tu es [figure de stryle pour faire drôle, hein]
"‘I realised I’d been ChatGPT-ed into bed’: how ‘Chatfishing’ made finding love on dating apps even weirder"
https://www.theguardian.com/lifeandstyl ... ating-apps

(bon, après , on pourrait penser que c'est juste Cyrano au goût du jour)

[Tybalt (le retour)]

C'est assez écœurant à imaginer, même si, comme souvent avec The Guardian, l'article et ses témoignages sont largement assez approfondis pour faire comprendre le côté très humain de tout ça. Ce sont simplement des gens qui ont peur de l'échec, ou n'ont pas confiance en leur prorpe capacité à trouver les mots justes.
Tout ça n'arriverait pas dans un monde où les études littéraires seraient mieux valorisées

(bon, après , on pourrait penser que c'est juste Cyrano au goût du jour)

Ah non, alors. Cyrano au goût du jour, tel que je l'imagine, c'est un trouple avec Roxane et Christian. Pas besoin d'IA pour ça

[Cryoban]

C'est assez écœurant à imaginer

C'est plutôt assez logique de voir cela apparaitre. Mais comme d'habitude c'est les gens qui foutent la merde. Ils utilisent une identité virtuelle qui n'est pas ce qu'ils sont puis s'étonnent que ça merde quand ils retournent dans le monde physique. C'est pourtant simple Chatfishing, Chatroulette, Chatbot sex...il est vraiment temps de faire un upgrade pour Les Sims.

[Tybalt (le retour)]

Il faudrait surtout que les gens se décident à appliquer la morale des films Disney dans leur vie réelle. Je sais pas, c'est quand même la base :

Spoiler:

[Kyorou]

C'est pourtant simple Chatfishing, Chatroulette, Chatbot sex...il est vraiment temps de faire un upgrade pour Les Sims.

C'est probablement déjà fait mais sous forme de mod non-officiel.

[Morningkill]

Et dans un thème voisin je tombe sur ceci :
https://www.kickstarter.com/projects/1195448403/segai
un sex toy pour homme... avec analyse de video en temps reel en IA pour.. euh.. reproduire dans le sextoy les mouvements de la video (porno hein, j'ose pas imaginer si on se trompe si on met un dent de la mer ou un alien par accident)

La vidéo de présentation vaut le détour.

[cdang]

Tout ça n'arriverait pas dans un monde où les études littéraires seraient mieux valorisées

Mmmm, je ne suis pas mauvais littérairement (même si ça n'a pas été mes études), ça ne m'empêche pas d'être une tanche. Ya 2-3 codes sociaux que je ne maîtrise pas, dont, c'est ballot, ceux de la séduction.

Pour autant, je n'envisage pas comme solution de mettre un écran entre moi et l'autre.

Ah non, alors. Cyrano au goût du jour, tel que je l'imagine, c'est un trouple avec Roxane et Christian. Pas besoin d'IA pour ça

Alors IRL, Savinien Cyrano de Bergerac était gay.

[cdang]

un sex toy pour homme... avec analyse de video en temps reel en IA pour.. euh.. reproduire dans le sextoy les mouvements de la video (porno hein, j'ose pas imaginer si on se trompe si on met un dent de la mer ou un alien par accident)

Ça y est, on est dans Minority Report...

[I bring bad luck]

Et dans le Monde, un article sur les gens qui pratiquent le spiritisme moderne : parler à ses morts recréés par l'IA.
(article pour abonnés malheureusement)