Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Pour discuter sereinement de l'actualité
Avatar de l’utilisateur
Vorghyrn
Dieu des gargarismes
Messages : 8367
Inscription : jeu. févr. 03, 2011 12:00 pm
Localisation : Bamako (Mali)
Contact :

Re: Synthèse d'images (Dall-E, Imagen, Midjourney, StableDiffusion, etc.)

Message par Vorghyrn »

/HS

PS on peut bouger cette discussion en sujet "Sciences" éventuellement ;)  

@Killing Joke : Vu par de par chez moi (utilisateur avancé d'IA*) la situation parait assez différente.

1/ Je n'étais pas là dans les années 50 mais les "promesses" que j'entends aujourd'hui de gens sérieux du milieu (pas des journalistes, politiciens ou financiers) me semblent assez raisonnables au vu des incrémentations précédentes. On parle de trucs à l'horizon 5-10 ans qui sont du même genre de complexité que des problèmes qu'on a résolus en 5-10 ans ces dernières années. Pour les exploits bien connu, tu pourra voir que après la suprématie de l'IA aux échecs, on avait prédit que ça mettrait beaucoup plus de temps pour le Go et Starcraft. Les performances de AlphaGo et le temps que ça a mis pour atteindre ce niveau à donné des sueurs froides à certaines personnes... Ce d'autant que les capacité de calcul et la quantité de données disponibles sont exponentiel et que dans d'autre domaines (genre, au hasard, la génomique ;) ), on a déjà vu comment ça explosait la Loi de Moore. J'ajouterai que ce n'est pas parce que certaines personnes ont été trop optimiste dans les années 50 que cette erreur sera toujours reproduite à tout les ages (l'humain peut apprendre de ses erreurs, quand même...). Il est d'ailleurs intéressant de comprendre les raisons de ces "promesse manquées", elles tiennent en partie à la "prise de pouvoir" des symbolistes dans les années 70 alors que les "promesses" avait été plutôt faites par les connexionistes, à la manoeuvre aujourd'hui**. Changement de paradigme (qui n'a pas porté ses fruits pour l'instant, mais ça c'est un autre sujet) et donc prise de retard sur le projet "initial"

2/ Ta vision de "do, die, repeat" de l'IA n'est pas tout à fait correcte. L'IA n'apprend pas par coeur les paramètres optimisés pour coller aux données. C'est même une des clés d'une "bonne IA" : savoir généraliser, trouver des relations entre des éléments qui nous échappe (parce que nous sommes pas en mesure de calculer ces relations qui sont dans des dimensions inconcevables pour un cerveau humain)***. Donc, donne un jeu de données à une IA et, si tu as bien fait ton boulot (sur les données, l'architecture de l'IA, son entrainement etc...), elle aura des capacité de généralisation à d'autres exemples que ce que tu lui a montré.

3/ l'IA peut "apprendre", tant qu'elle a une fonction mathématique qui lui permet d'évaluer le résultat (et donc de lui dire "affine ton entrainement parce que là tu n'es pas (assez) bonne"). Il n'est donc pas forcément nécessaire de lui "expliquer" ce qu'est un scénario, une auberge ou un PNJ. Si tu trouve un moyen de noter un scénario qu'elle génère et de lui renvoyer la note, elle est capable de s'auto améliorer. La dernière version d'AlphaGo, par exemple, a appris uniquement en jouant des millions de parties contre elle-même. De mémoire, elle a joué en 2 semaines ce qu'un joueur de Go ferait en plusieurs dizaines d'années. On pourrait donc entrainer une IA à concevoir des scénario sans exemples humains. Ca serait plus tricky qu'un jeu, mais c'est plausible. Si on analysait son "intelligence" après l'entrainement, il serait possible qu'elle n'ait pas créer des concepts de scène, d'antagonistes ou de linéarité/bac à sable mais sûrement d'autres concepts narratifs dont l'explication nous échappe, et ça, c'est un peu la réponse à @BenjaminP : en fait l'IA peut créer des trucs sans imiter. Deux IA on bien inventées un code secret. C'est complexe et couteux mais c'est possible. Et le sens de ce qui a été créer peut complètement nous échapper parce que ça ne s'accorde pas à notre "architecture"  :P . Ce sont les fameuses questions autour de "l'exploitabilité des IA".
 
La seule chose qu'une IA ne sait pas faire pour l'instant c'est apprendre sans en avoir reçu l'instruction. Dans une des ses conf', Yann LeCun expliquait qu'un enfant de 2 ans fini par découvrir tout seul le concept de la gravité, de manière intuitive et empirique. Une IA pourrait en redécouvrir les équations (voire les améliorer ;) ) si on lui dit de le faire et qu'on lui donne les données et les objectifs. Elle ne fera rien si elle n'a rien qui l'y incite, directement ou non.

* je ne peux pas me prétendre "chercheur en IA" car je ne ne fais pas de recherche sur les algorithmes ou de nouvelles approches de l'IA. Je prend des outils existants et je les paramètre intelligemment pour répondre à mes problèmes. Ca exige quand même de comprendre ce que la bête à dans le ventre, entre autre ses forces et ses limitations

** si ça t'intéresse, tu peux regarder cette présentation issue de l'excellente formation (gratuite) Fidle, proposée par le CNRS et qui se passe en ligne : https://cloud.univ-grenoble-alpes.fr/in ... =538928551 Slides 69 et 70

*** Je ne dis pas que l'IA est plus intelligente que nous. C'est très complexe de définir l'intelligence et je ne m'y risquerai pas. Ce qui est clair, c'est que la grande force d'un ordinateur (et donc d'une IA) c'est de compter extrêmement vite. Avec les bonnes approches et les bonnes équations, on peut capitaliser sur cette capacité pour obtenir quelque chose qui ressemble à de l'intelligence. Comme un jouer de JDR qui demande combien de point de dégâts ça fait la compétence persuasion (réponse : beaucoup si tu arrive à convaincre le bourrin de taper pour toi) ;)

HS/
 
Mon blog JDR : De l'autre Côté de l'écran. critiques de JDR et techniques de jeu, surtout en solo
 
BenjaminP
Banni
Messages : 1428
Inscription : sam. mars 02, 2019 1:33 pm

Re: Synthèse d'images (Dall-E, Imagen, Midjourney, StableDiffusion, etc.)

Message par BenjaminP »

Vorghyrn a écrit : mer. déc. 07, 2022 9:08 am c'est un peu la réponse à @BenjaminP : en fait l'IA peut créer des trucs sans imiter.

Je ne me pose pas la question de l'IA de manière générale, seulement de celles dont on discute ici. Cette IA de production de texte donne l'impression d'être très nettement calquée sur le test de Turing, conçue pour passer ce test, autrement dit pour donner l'apparence de l'intelligence.
Or, à mon humble avis, le test de Turing est avant tout une expérience de pensée sur la question de l'intelligence, ça ne devrait pas être un objectif. Ça peut être un point de contrôle connexe, à la rigueur, mais à partir du moment où on en fait l'objectif, on pervertit l'usage, on s'efforce activement de produire des machines qui trompent.
Je n'ai aucun doute qu'on y arrivera très bien.
Enjeu Solo, l'émulateur de MJ qu'il est beau ! Pour toutes vos parties sans MJ, Enjeu Solo contient les oracles qu'il vous faut. Dynamisez la narration, adaptez-la au rythme du récit, tenez compte des enjeux et surprenez tout le monde, vous le premier.
Avatar de l’utilisateur
Orlov
Dieu d'après le panthéon
Messages : 3802
Inscription : jeu. févr. 20, 2014 10:57 am

Re: Synthèse d'images (Dall-E, Imagen, Midjourney, StableDiffusion, etc.)

Message par Orlov »

OSR a écrit : mer. déc. 07, 2022 9:05 am Voire les sites putaclic du genre https://www.empiregalactique.fr/ dont il est aujourd'hui assez aisé de déceler la putaclitude (des liens louches cachés dans une recopie de Wikipedia ou du GRoG), ça sera sans doute plus subtil dans quelques années, on aura de faux sites voire de faux forums avec des discussions artificielles construites par des robots...
Ah ah merci, j'ai appris grâce à toi que les rôlistes aimaient les paris sportifs, je crois qu'on a trouvé un nouveau fil à ouvrir sur Casus No !
Johan Scipion a écrit : lun. janv. 23, 2017 3:52 pm Ça va être fun, ça va être jeune, et vous allez tous mourir.

Mildendo aka Capitaine Caverne a écrit : Faire du Jdr c'est prendre une voix bizarre et lancer des dés en racontant qu'on tue des gobs.
Avatar de l’utilisateur
OSR
Dieu d'après le panthéon
Messages : 2172
Inscription : mar. nov. 21, 2017 10:32 am

Re: Synthèse d'images (Dall-E, Imagen, Midjourney, StableDiffusion, etc.)

Message par OSR »

Orlov a écrit : mer. déc. 07, 2022 10:56 am
OSR a écrit : mer. déc. 07, 2022 9:05 amVoire les sites putaclic du genre https://www.empiregalactique.fr/ dont il est aujourd'hui assez aisé de déceler la putaclitude (des liens louches cachés dans une recopie de Wikipedia ou du GRoG), ça sera sans doute plus subtil dans quelques années, on aura de faux sites voire de faux forums avec des discussions artificielles construites par des robots...
Ah ah merci, j'ai appris grâce à toi que les rôlistes aimaient les paris sportifs, je crois qu'on a trouvé un nouveau fil à ouvrir sur Casus No !
https://www.rapidejdr.fr/ a aussi été remarquablement putaclifié, cette fois-ci pour assurer que les rôlistes adorent les casinos en ligne...

Il a bien bossé le stagiaire chinois qui a fait ça ! Mais avec une IA ça coûterait encore moins cher.
OSR = hommage à la défunte compagnie ferroviaire

Du rétrovieux et du complotisme narrativoïde sur Lulu / DriveThruRPG / Itch.io, et une page web pour tout rassembler : https://sites.google.com/view/retrovieux

Je ne crois pas à la théorie rôliste.
Avatar de l’utilisateur
Pyth
Banni
Messages : 1401
Inscription : ven. mars 23, 2018 9:12 am

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Pyth »

Je vais encore faire le râleur de service mais si ces liens sont si putacliques et douteux que ça, on n'a peut-être pas besoin de les relayer ici, si?
Avatar de l’utilisateur
Vorghyrn
Dieu des gargarismes
Messages : 8367
Inscription : jeu. févr. 03, 2011 12:00 pm
Localisation : Bamako (Mali)
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Vorghyrn »

@BenjaminP Ok, je vois ce que tu veux dire.

Pour moi, il faut différencier 1) ce qui est théoriquement possible 2) ce qui est pratiquement fait 3) l'intention initial des concepteurs 4) les façons dont ça sera détournés. En ce sens, ce n'est pas très différent d'un débat sur les OGMs ou le nucléaire. Ca pourrait se résumé à "c'est pas l'outil le problème, c'est qu'on en fait". Pour le détail :

1) Je pense qu'on pourrait avoir des IA complètement créatrices et pas basé sur l'imitation. Ca demanderai quand même beaucoup plus d'efforts et un coût (en ressource de calcul donc en argent) sensiblement différent mais AMHA c'est possible, ou pas loin de l'être (cf AlphaGo qui a commencé avec une version entrainée sur des parties réelles avant de finalement faire de l'auto-entrainement par réseaux antagoniste génératif (GAN), qui s'est avéré plus efficace)

2) en pratique c'est moins coûteux d'utiliser un corpus de texte connu et associé à des mot-clés. On entraine donc le modèle sur du contenu existant -> imitation. La fonction d'évaluation la plus simple (pour dire au model qu'il n'est pas bon et qu'il doit continué à s'optimiser) sera là aussi de s'approcher de l'existant. Ce n'est pas la seule possible mais c'est de loin la plus facile. Toujours pas d'intention ici, juste une contrainte technique, ce qui nous mène au 3)

3) j'imagine que les concepteurs voulaient faire un coup d'éclat et, directement (par la monétisation des essais) ou indirectement (par le prestige) gagner de l'argent. Ils ont donc choisis la solution "imitation" parce que efficace aujourd'hui et moins couteuse. C'est une étape vers un système plus performant et plus "agnostique" mais, comme tu le sais, la Science fonctionne par itération. Je ne pense pas qu'on puisse leur prêter une intention de créer des images destinés à tromper les gens, d'autant qu'ils ont eux-même attiré l'attention sur les risque d'abus de GTP-3

4) évidement que des esprits humains retorts trouverons des utilisations abusives. Pour reprendre la signature de @madame ridulle "la bêtise naturelle bat l'intelligence artificielle à tous les coups". Mais je ne crois pas qu'il faille en faire un défaut inhérent de l'IA ou une motivation initiale des concepteurs. Après, c'est très bien de réfléchir sur ces questions et de tirer la sonnette d'alarmes sur ces risques  :bierre:
Il faut juste bien identifier d'où ils viennent (les utilisateurs AMHA) et ne pas bêtement tout verrouiller au prétexte que "dans des mauvaises mains, ça peut faire des dégâts" parce que pratiquement chaque invention humaine peut être détournée pour faire des dégâts  8|
Mon blog JDR : De l'autre Côté de l'écran. critiques de JDR et techniques de jeu, surtout en solo
 
Avatar de l’utilisateur
OSR
Dieu d'après le panthéon
Messages : 2172
Inscription : mar. nov. 21, 2017 10:32 am

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par OSR »

Pyth a écrit : mer. déc. 07, 2022 11:12 amJe vais encore faire le râleur de service mais si ces liens sont si putacliques et douteux que ça, on n'a peut-être pas besoin de les relayer ici, si?
Ah ben c'était juste pour signaler que les sites creux donnant l'illusion d'être pertinents, ça existait déjà depuis longtemps, c'est juste que jusqu'à présent le rédactionnel est produit par des stagiaires de troisième, pas encore par des IA.

Et bon, les jeux en ligne ça reste moins dangereux que les déclarations CPF, les renouvellements de carte vitale, l'isolation à 1€ et le financement des cosmonautes nigérians.
OSR = hommage à la défunte compagnie ferroviaire

Du rétrovieux et du complotisme narrativoïde sur Lulu / DriveThruRPG / Itch.io, et une page web pour tout rassembler : https://sites.google.com/view/retrovieux

Je ne crois pas à la théorie rôliste.
Avatar de l’utilisateur
Vociférator
Ascendant
Messages : 1609
Inscription : sam. déc. 11, 2010 8:55 pm
Localisation : DTC, évidemment !

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Vociférator »

L'utilité que je vois personnellement sur des outils comme GPT, c'est celle des aides de jeu sous forme de tables aléatoires pour générer des idées de scènes et de scénarios.

Curieux de voir si des aides de jeu numériques dédiées JDR et s'appuyant sur des IA en exploitant toute la production qui a déjà pu être faite dans ce domaine vont apparaître sur le marché ? Voire être intégrées sur les plateformes de VTT comme moteur de jeu ??
Avatar de l’utilisateur
Pyth
Banni
Messages : 1401
Inscription : ven. mars 23, 2018 9:12 am

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Pyth »

OSR a écrit : mer. déc. 07, 2022 11:33 am
Pyth a écrit : mer. déc. 07, 2022 11:12 am Je vais encore faire le râleur de service mais si ces liens sont si putacliques et douteux que ça, on n'a peut-être pas besoin de les relayer ici, si?
Ah ben c'était juste pour signaler que les sites creux donnant l'illusion d'être pertinents, ça existait déjà depuis longtemps, c'est juste que jusqu'à présent le rédactionnel est produit par des stagiaires de troisième, pas encore par des IA.

Et bon, les jeux en ligne ça reste moins dangereux que les déclarations CPF, les renouvellements de carte vitale, l'isolation à 1€ et le financement des cosmonautes nigérians.
Ha je ne sais pas, t'ayant cru sur parole sur l'aspect douteux je ne suis pas aller voir, justement. Bref je m'alarme certainement pour rien mais de manière générale, lorsque vous faites référence à du contenu web potentiellement foireux, postez une capture d'écran plutôt que l'url du site pourri siouplait : Ça illustrera tout aussi bien le propos, ce sera totalement sûr pour le lecteur et ça ne fera pas cadeau d'un peu plus de trafic comme de visibilité au site en question. :) (fin du hs)
Dernière modification par Pyth le mer. déc. 07, 2022 12:06 pm, modifié 1 fois.
Avatar de l’utilisateur
Pyth
Banni
Messages : 1401
Inscription : ven. mars 23, 2018 9:12 am

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Pyth »

Et sinon, pour en revenir à l'IA comme outil d'écriture, je ne serais pas franchement étonné de la découvrir déjà active derrière le spam de propagande comme on en trouve par exemple dans les com' Youtube. Une IA doit être certainement capable de faire au moins aussi bien que tous ces posts à la syntaxe approximative et au sens à la limite de l'abscons qui floodent les com' de la moindre vidéo traitant la guerre d'Ukraine par exemple.
Avatar de l’utilisateur
Vorghyrn
Dieu des gargarismes
Messages : 8367
Inscription : jeu. févr. 03, 2011 12:00 pm
Localisation : Bamako (Mali)
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Vorghyrn »

il y a un exemple marrant (lien twitter) avec la simulation d'un utilisateur type de stackoverflow (forum bien connu de programmeurs)

Pour ceux qui ne vont pas sur twitter
Spoiler:
On demande au bot de simuler la réponse d'un utilisateur désobligeant de ce forum de programmeurs à la question "comment puis-je utiliser la méthode Paste dans PIT ?"

La réponse est un truc du style :
"Tu es sérieux en posant cette question ? Ca s'appelle la méthode Paste et ça fait partie de la bibliothèque de programmes PIL. Regarde la doc ou, mieux, fait des recherches Google avant de poser une question aussi basique"

Donc, oui, on peut surement l'utiliser pour répondre automatiquement à des commentaires. Et mieux que des commentaires de certains humains, même !  :mrgreen:
Mon blog JDR : De l'autre Côté de l'écran. critiques de JDR et techniques de jeu, surtout en solo
 
Avatar de l’utilisateur
Pyth
Banni
Messages : 1401
Inscription : ven. mars 23, 2018 9:12 am

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Pyth »

L'outil de contrôle du web ultime quoi : A partir du moment où tu peux flooder le net de posts artificiels semblant d'origine humaine, tu peux noyer dans la masse les voix qui dérangent, fausser les tendances, détourner les opinions ou en lancer de nouvelles, et je ne vois pas vraiment comment contrer le truc pour le coup.
Avatar de l’utilisateur
Qui Revient de Loin
Dieu qui a failli y rester
Messages : 9935
Inscription : sam. mars 02, 2013 1:20 pm
Localisation : Nothing Gulch
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Qui Revient de Loin »

Vorghyrn a écrit : mer. déc. 07, 2022 1:04 pm il y a un exemple marrant (lien twitter) avec la simulation d'un utilisateur type de stackoverflow (forum bien connu de programmeurs)

Pour ceux qui ne vont pas sur twitter
Spoiler:
On demande au bot de simuler la réponse d'un utilisateur désobligeant de ce forum de programmeurs à la question "comment puis-je utiliser la méthode Paste dans PIT ?"

La réponse est un truc du style :
"Tu es sérieux en posant cette question ? Ca s'appelle la méthode Paste et ça fait partie de la bibliothèque de programmes PIL. Regarde la doc ou, mieux, fait des recherches Google avant de poser une question aussi basique"

Donc, oui, on peut surement l'utiliser pour répondre automatiquement à des commentaires. Et mieux que des commentaires de certains humains, même !  :mrgreen:

Si ça se trouve, je suis le seul humain sur Casus No et 9 517 bots me répondent de lire les règles du guide du MJ d'OD&D, de prendre chtulhu et d'adapter ou encore de changer l'univers et de prendre un hack du black hack pour ne pas avoir besoin de souscrire au KS de My Little Poney vs Dark Vador RPG :?
Dieu qui a failli y rester | Teams Panthéon & Bienvenue
Le blog de mes voyages imaginaires: http://qui.revient.de.loin.blog.free.fr/

Mémoire de rôlistes : le patrimoine du jeu de rôle se construit aujourd'hui

Contributeur au Grog
Avatar de l’utilisateur
Morningkill
Banni
Messages : 1437
Inscription : mar. août 03, 2004 2:09 pm
Localisation : Libourne / Bordeaux

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Morningkill »

Sachant que la tactique du noyage par la masse est déjà utilisé par la Chine, mais avec de vrais gens, pour l'instant
( https://restofworld.org/2022/chinese-in ... ropaganda/ )

Je suis pour ma part sidéré par les exemples qu'on voit, a tel point que je me demande s'il y a pas de l'intox quelque part ( genre la ca simule un linux, puis le web : https://www.engraved.blog/building-a-vi ... ne-inside/
)
Avatar de l’utilisateur
Qui Revient de Loin
Dieu qui a failli y rester
Messages : 9935
Inscription : sam. mars 02, 2013 1:20 pm
Localisation : Nothing Gulch
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Qui Revient de Loin »

Morningkill a écrit : mer. déc. 07, 2022 1:59 pm Je suis pour ma part sidéré par les exemples qu'on voit, a tel point que je me demande s'il y a pas de l'intox quelque part ( genre la ca simule un linux, puis le web : https://www.engraved.blog/building-a-vi ... ne-inside/
)

Heu... j'ai rien compris :?
La page que tu pointes est du techno-blabla généré par une IA, c’est un vrai article ? Si c’est vrai, l'article signifie que dans l'IA il y a un web alternatif ?
Dieu qui a failli y rester | Teams Panthéon & Bienvenue
Le blog de mes voyages imaginaires: http://qui.revient.de.loin.blog.free.fr/

Mémoire de rôlistes : le patrimoine du jeu de rôle se construit aujourd'hui

Contributeur au Grog
Répondre