CasusNO

L'IA au service du gouvernement chinois
https://www.aspi.org.au/report/the-part ... an-rights/ (+60 pages de PDF)

Chinese LLMs censor politically sensitive images, not just text.

The Chinese Government is deploying AI throughout the criminal‑justice pipeline—from AI‑enabled policing and mass surveillance, to smart courts, to smart prisons.

China is using minority‑language LLMs to deepen surveillance and control of ethnic minorities, both in China and abroad.

AI now performs much of the work of online censorship in China.

China’s censorship regulations have created a robust domestic market for AI‑enabled censorship tools.

The use of AI amplifies China’s state‑supported erosion of the economic rights of some vulnerable groups abroad, to the financial benefit of Chinese private and state‑owned companies.

Je le mets là: comme la pub Intermarché avec son loup "mal-aimé" a eu le gros succès qu'on sait, voilà qu'émergent déjà des faux sites de vente de la peluche tant attendue. L'êre humain est remarquable, et prévisible aussi.

https://www.numerama.com/cyberguerre/21 ... wtab-fr-fr

Un chèque expédié par La Poste est intercepté. Il est falsifié, probablement grâce à ChatGPT, qui remplace la bande de chiffres cryptée qu’on trouve au bas du chèque, pour créer de faux chèques avec un nom différent, mais qui sont débités sur le compte initial.

Marie Ottavi, « Tous arnaqués en ligne : “Ils ont reproduit mes chèques à l’aide de ChatGPT” », Libération, 16 décembre 2025
https://www.liberation.fr/lifestyle/tou ... 4LJHV4WS4/

Selon ce rapport d'usage d'OpenRouter (un fournisseur d'accés a des AI pour faire simple) , sur les modéles open source qu'ils fournissent, plus de 50% de l'usage est pour du Roleplay....

half of all OSS model usage falls under Roleplay, with Programming being the second-largest category. This indicates that users turn to open models primarily for creative interactive dialogues (such as storytelling, character roleplay, and gaming scenarios) and for coding-related tasks. The dominance of roleplay (hovering at more than 50% of all OSS tokens) underscores a use case where open models have an edge: they can be utilized for creativity and are often less constrained by content filters, making them attractive for fantasy or entertainment applications. Roleplay tasks require flexible responses, context retention, and emotional nuance - attributes that open models can deliver effectively without being heavily restricted by commercial safety or moderation layers. This makes them particularly appealing for communities experimenting with character-driven experiences, fan fiction, interactive games, and simulation environments.

Morningkill a écrit : ↑mer. déc. 17, 2025 1:56 pm Selon ce rapport d'usage d'OpenRouter (un fournisseur d'accés a des AI pour faire simple)

Tu veux dire, c'ets une plateforme pour accéder à des IA, c'ets ça ?

Qui Revient de Loin a écrit : ↑mer. déc. 17, 2025 2:10 pm Tu veux dire, c'ets une plateforme pour accéder à des IA, c'ets ça ?

Ils ont achetés en masse de l'usage chez plein de fournisseurs IA differents (google, anthropic, openai, msistral etc..) + fournissent eux même (je pense) d'autres modele open source et/ou gratuit (deepseek, qwen etc..)
Et toi, tu achetes des jetons chez eux, et tu (ton programme) se connecte chez eux en leur disant "pour cette requete, prend ton fournisseur le moins cher", ou "ce prompt doit etre traité par chat GPT 5.2", et ils te déduisent ca de tes jetons
Sachant que théoriquement, ca coute moins cher de passer par eux que d'aller directement chez chat gpt (par ce qu'ils ont négociés leur prix)

Morningkill a écrit : ↑mer. déc. 17, 2025 1:56 pm Selon ce rapport d'usage d'OpenRouter (un fournisseur d'accés a des AI pour faire simple) , sur les modéles open source qu'ils fournissent, plus de 50% de l'usage est pour du Roleplay....

half of all OSS model usage falls under Roleplay, with Programming being the second-largest category. This indicates that users turn to open models primarily for creative interactive dialogues (such as storytelling, character roleplay, and gaming scenarios) and for coding-related tasks. The dominance of roleplay (hovering at more than 50% of all OSS tokens) underscores a use case where open models have an edge: they can be utilized for creativity and are often less constrained by content filters, making them attractive for fantasy or entertainment applications. Roleplay tasks require flexible responses, context retention, and emotional nuance - attributes that open models can deliver effectively without being heavily restricted by commercial safety or moderation layers. This makes them particularly appealing for communities experimenting with character-driven experiences, fan fiction, interactive games, and simulation environments.

50% ??? Pourquoi ne suis-je pas surpris ? 

Je me demande quelle est la part de ceux qui l'utilisent pour générer des uchronies...

Le merlock a écrit : ↑mer. déc. 17, 2025 3:50 pm Je me demande quelle est la part de ceux qui l'utilisent pour générer des uchronies...

Du coup, je regardais l'interface chat d'Openroute (pour chatter en direct comme sur chatgpt.com), ils connaissent les usages de leurs clients en proposant le roleplay comme un des 4 choix de base.


En vrai, ca serait fascinant de repartir ce roleplay entre porn, compagnon virtuel (non porn), "vrai" jeu de rôle (a mon avis ultra minoritaire), conseiller / mentor

L'attaque par injection de prompt : un document (page web, PDF...) contient du texte caché (derrière une balise spoiler, en blanc sur fond blanc etc.). Si on utilise la fonction « fais-moi un résumé du doc » du navigateur/visualiseur, l'IA peut interpréter le prompt. Pour peu que l'agent IA ait un peu de pouvoir (le genre à qui on peut dire « vazy réserve-moi un avion pour Londres » et qui va le faire), ça peut poser problème.

« Agentic Browser Security: Indirect Prompt Injection in Perplexity Comet », Brave.com, 20 août 2025
https://brave.com/blog/comet-prompt-injection/

The AI doesn’t just read, it browses and completes transactions autonomously. [...]

This kind of agentic browsing is incredibly powerful, but it also presents significant security and privacy challenges. As users grow comfortable with AI browsers and begin trusting them with sensitive data in logged in sessions—such as banking, healthcare, and other critical websites—the risks multiply. What if the model hallucinates and performs actions you didn’t request? Or worse, what if a benign-looking website or a comment left on a social media site could steal your login credentials or other sensitive data by adding invisible instructions for the AI assistant?

[...]

The attack demonstrates how easy it is to manipulate AI assistants into performing actions that were prevented by long-standing Web security techniques, and how users need new security and privacy protections in agentic browsers.

[...]

When an AI assistant follows malicious instructions from untrusted webpage content, traditional protections such as same-origin policy (SOP) or cross-origin resource sharing (CORS) are all effectively useless. The AI operates with the user’s full privileges across authenticated sessions, providing potential access to banking accounts, corporate systems, private emails, cloud storage, and other services.

Pour en savoir une peu plus sur Brave.com :
https://fr.wikipedia.org/wiki/Brave_(navigateur_web)

Message d'Emmanuel Roudier sur Facebook, 20 décembre à 15h24 :
https://www.facebook.com/permalink.php? ... 9518254626

Alors là, j'aimerais bien voir le prompt qui a abouti à transformer mon dessin de Hrangarth (dans Barbarians of Lemuria) en ce truc trouvé sur Pinterest. Dans le genre pillage, ça fait même plus semblant en fait

Si ChatGPT était un employé. Et il faut voir les commentaires en dessous : il y a pléthores de commentaires d'illustrateurs désespérés par la situation actuelle (des établis, des étudiants dans cette filière, etc.).

Etape 1. Le jeu Clair-Obscur : Expédition 33 (lien Steam) est développé par une équipe (française, cocorico) indépendante (ie, ce n'est pas un gros studio publiant un jeu AAA).
Etape 2. Le jeu est finalisé et vendu en avril 2025 et rencontre un certain succès ludique et commercial, et est annoncé comme étant "sans IA générative" pour ses élements artistiques.
Etape 3. Le 18 décembre, il rafle tout un tas de prix dans le monde indé.
Etape 4. Certaines voix s'élèvent sur le fait que (contrairement aux annonces de l'étape 2), certaines textures présentes dans le jeu (des posters sur des décors, ...) sentent fortement l'IA générative.
Etape 5. Tous ses prix lui sont retirés (voir https://news.instant-gaming.com/fr/arti ... ilise-l-ia).
Etape 6. L'explication du pourquoi du comment est établie : pendant les phase initiales (au moment de l'étape 1), des resources graphiques dites "placeholders" (= mises temporairement en place pour "habiller" certaines parties non finalisées) ont bien été générées par IA, pour gagner du temps et donner un meilleur aperçu du produit en cours de construction (ce qui n'a rien de délirant en soi, c'est une "technique" fréquemment utilisée). Mais certaines ressources ont été laissées / oubliées jusqu'à l'étape 2, et n'ont pas donc été remplacées à temps.
Etape 7. Le site Gus'N'Co fait un article sur cette affaire (un site traitant à la base de jeux de société) : https://gusandco.net/2025/12/21/clair-o ... ification/ - c'est cocasse et ça mérite une Etape 7, car ce site est accusé depuis des années de publier moultes articles de (très) piètre qualité, écrits à coup de ChatGPT (en oubliant parfois des morceaux de prompt lors de la publication) !

Killing Joke a écrit : ↑dim. déc. 21, 2025 4:02 pm Etape 2. Le jeu est finalisé et vendu en avril 2025 et rencontre un certain succès ludique et commercial, et est annoncé comme étant "sans IA générative" pour ses élements artistiques.
Etape 3. Le 18 décembre, il rafle tout un tas de prix dans le monde indé.
Etape 4. Certaines voix s'élèvent sur le fait que (contrairement aux annonces de l'étape 2), certaines textures présentes dans le jeu (des posters sur des décors, ...) sentent fortement l'IA générative.
Etape 5. Tous ses prix lui sont retirés (voir https://news.instant-gaming.com/fr/arti ... ilise-l-ia).

Ils avaient bien précisés "pour ses éléments artistiques" ?
Genre, ils ont spécifiquement exclus le code ? (qu'on pourrait juger être aussi de l'art...) (et qui si inclus a mon avis exclurerait 95% des jeux produits à partir de 2025)

(aprés, ton résumé porte a confusion sur les prix concerné : aux indie game awards, COE33 n' a pas eu "tout un tas de prix", mais 'seulement' 2 , et c'est ceux la qui ont eté retiré, pas les 11 (je crois) des Game awards)

En fait, ces interdits me dérangent beaucoup plus que les anathèmes précédents sur par exemple les NFT, par ce que ils visent a dicter aux travailleurs comment ils doivent travailler. En tant que programmeur, maintenant, tu m'interdit l'AI, tu dégrades mes conditions de travail, clairement

Extrait de l'article linké à la fin

Sandfall Interactive avait juré, la main sur le cœur, que le jeu était « fait main ». Guillaume Broche, le directeur créatif, avait même martelé lors d’une table ronde : « Lorsqu’il s’agit de création, notre réponse est un non ferme à l’IA. »

Ce qui semble bien couvrir la création artistique seule et non pas l'usage "Développement" - usage qui, de toutes façons, serait encore plus dur à identifier que pour la création artistique (déjà que ... de nos jours, ça devient difficile, pour certaines images).