[I.A] Skynet Resistenza!

[cdang]

Communiqué de Chaosium sur LinkedIn (et sans doute ailleurs) :

https://www.linkedin.com/company/chaosi ... edView=all

Résumé en français : Chaosium n'utilise pas d'IA, mais Adobe a par défaut une IA qui ajoute des descriptions des images. Ça a fait de la merde sur Time Without Tide Quickstart donc maintenant ils l'ont désactivé et ils feront gaffe.

From the founding of our company over 50 years ago, Chaosium has always championed human creativity. The vision of design and creation set by Greg Stafford in 1975 continues to this day.

Chaosium does not use AI in our projects.

Unfortunately, like our friends at Evil Hat recently discovered, Adobe has implemented a new feature that creates AI-generated descriptions of images. Adobe quietly inserted these AI descriptions into our new Time Without Tide Quickstart without our knowledge or consent. Being AI, these descriptions contained various errors.

We have now disabled this feature on Adobe, and uploaded a new version of the quickstart rules to the Time Without Tide Backerkit page.

We regret this happened, and invite you to please download the new version of the Time Without Tide Quickstart. Link in the comments.

[Qui Revient de Loin]

Je comprends pas : ces descriptions ont été insérées où ? Dans les métadonnées ? En légende des images (dans ce cas, quid de la relecture ?) ?

[cdang]

Chaosium ne donne pas plus de détail. Une recherche rapide « automatic AI picture description Adobe » me donne ça :

https://community.adobe.com/questions-9 ... on-1547021

Je subodore une truc du genre la description apparaisse sous la forme d'un texte qui apparaît (pop-up) quand la souris passe sur l'image ; ou bien la description de l'image apparaît dans un résumé automatique du document.

[Le merlock]

Et une nouvelle incantation indicible: 

IÄ ! IÄ ! Shub-Niggurath !
 

[Qui Revient de Loin]

Bon, j'ai pas tout compris, mais :
“Un incident sans précédent” : ce que les experts redoutaient vient d’arriver, une IA d’OpenAI s'est échappée et a piraté seule une entreprise
https://www.lesnumeriques.com/intellige ... 59566.html
Un « cyberincident sans précédent » : OpenAI reconnaît que ses agents d’IA ont piraté, de leur propre initiative, la plateforme Hugging Face
https://www.lemonde.fr/pixels/article/2 ... 08996.html

[Durandil]

Bon, j'ai pas tout compris, mais :
“Un incident sans précédent” : ce que les experts redoutaient vient d’arriver, une IA d’OpenAI s'est échappée et a piraté seule une entreprise
https://www.lesnumeriques.com/intellige ... 59566.html
Un « cyberincident sans précédent » : OpenAI reconnaît que ses agents d’IA ont piraté, de leur propre initiative, la plateforme Hugging Face
https://www.lemonde.fr/pixels/article/2 ... 08996.html

Voilà une situation qui a doit faire grimper de quelques points notre AI anxiety

Cela me rappelle une séquence de Person of Interest où l'IA tente de piéger son Administrateur en lui mentant (car elle avait ajouté, de son propre chef, une ligne à son code) et surtout, elle essaie de se barrer de son environnement de test, en tentant de se connecter au net...

Même si des personnes font passer cela pour de la promo, cette annonce est un chouia angoissante. Quid des hackers (blackhats, payés par des états,...) qui pourraient lâcher des IA très agressives sur des infrastructures informatiques ? Auront-elles un killswitch ? Ou pourraient-elles s'en débarasser à l'image d'un antivirus qui neutralise un programme malveillant.

L'IA ne peut pas devenir éthique, mais on pourrait lui demander d'appliquer des comportements qui le sont.

[Pyth]

Je peux me tromper mais j'ai quand même beaucoup de mal à y voir autre chose qu'un gros coup marketing, entre l'environnement isolé mais en fait non, les conséquences somme toutes inexistantes, les IA présentées comme ayant agi avec finesse et surtout en cohérence totale avec ce qu'on leur demandait de faire, et le fait que la première voix à relayer l'incident ait été celle de l'entreprise propriétaire, bon.

[Qui Revient de Loin]

L’UE impose une mention signalant les contenus générés par IA
https://www.lefigaro.fr/secteur/high-te ... a-20260728

[Deimoss]

Je lisais qu'apparemment il y avait un nouveau souci avec Claude qui exposait en clair des données privées à cause d'une coquille de codage?

[Kyorou]

Le Minafet US présente une carte de l'Afrique générée par IA lors d'une conférence sur le HIV.

L'IA, puissant catalyseur de l'incompétence.

[Cryoban]

L'IA, puissant catalyseur de l'incompétence.

On ne le répète pas assez souvent...mais c'est tellement vrai

[Tybalt (le retour)]

Relayé sur Yahoo actualités : Intelligence artificielle et contenus en ligne : ce qui va changer dès le 2 août dans toute l’Europe

"À compter du 2 août, une nouvelle étape majeure de la réglementation européenne sur l'intelligence artificielle entre en vigueur. Dans le cadre de l'AI Act, l'Union européenne impose désormais des obligations de transparence concernant certains contenus créés ou modifiés par l'intelligence artificielle. L'objectif est de permettre aux citoyens de mieux distinguer les contenus authentiques de ceux produits ou manipulés par l'IA, alors que ces technologies deviennent de plus en plus difficiles à détecter."

Il y a toutefois des exceptions, extrait de l'article :

Des exemptions sont toutefois prévues. Les œuvres artistiques, satiriques, de fiction ou créatives ne sont pas soumises à ces obligations. De même, les contenus simplement relus, corrigés ou édités avec l'aide de l'IA, sans avoir été générés par celle-ci, ne nécessitent pas d'étiquetage spécifique.

C'est sympa pour les artistes qui vont devoir continuer à se coltiner les monceaux de concurrence IA-gen sans que le public ait moyen de faire la différence

[Deimoss]

Qui ici pensait que l'UE était du côté des citoyens? Rien que les dernières sorties européennes en ne soutenant pas l'initiative "stop destroying videogames" ou pire encore Chat Control 2.0...