IA et old school d&d : Menace ou outil ?

[WismerhillLichKiller]

Dernier message de la page précédente :

mais vraiment ça ne m'attire pas...

Pareil, j'attends donc la synthèse.

[PhilouCerise]

NotebookLM, c'est gratuit et un super outil, j'ai compilé la première version de mon site web sur Xitragupten, et je vais de temps en temps lui poser des questions quand je cherche des trucs super précis.

Oui c'est génial comme outil car on a la réponse sans lire. J'utilise celui de Laelith et c'est vraiment très pratique, un sacré gain de temps. D'ailleurs il faudrait avoir cela pour le forum afin de rechercher plus facilement des sujets bien enfouis dans les entrailles du donjon.

[Zedafty]

Franchement, j'ai super peur d'utiliser ce truc... Si je refile à une IA la tâche ingrate de farfouiller dans les manuels, c'est sûr, je ne pourrais plus m'en passer

[Outsider]

"Apprennez à pensez par vous même à l'aide d'une IA" ?

Y'a que moi que ça interpelle de faire une analyse de l'IA avec de l'IA ?

Remarque pertinente.
Au vu de mes récentes interactions avec l'IA je commence à comprendre comment elle fonctionne. Je croyais faussement qu'elle puisait dans les sources ouverte pour synthétiser une réponse à une question.
Elle n'a aucune compréhension des connaissances qu'elle possède. Si j'ai bien compris elle référence des mots qu'elle lie avec des concepts. Elle analyse ensuite les mots de la question, sa syntaxe et autre éléments grammaticaux pour rechercher des équivalents statistiques afin de générer une réponse. C'est un peu plus compliqué que cela. Mais en gros, elle prend un pari statistique que son exposé soit bon. Ce qui génère des erreurs de bonne foi, quand les probabilités sont défavorables.
C'est chiadé comme concept, mais ça fonctionne. L'IA n'est pas un moteur de recherche mais plutôt un moteur statistique. Elle compare, analyse, détermine le concept de la question et recherche le concept qui correspondant au plus près à la réponse qu'elle va générer en utilisant les mots correspondant au poids statistique attendu.

Il ne faut pas chercher à comprendre comment elle fonctionne en se basant sur notre mode de pensée. Ce serait vouloir comprendre le mandarin en considérant que c'est un alphabet. Je pense que c'est un bon exemple.

Difficile donc de synthétiser ses réponses alors que je lui ai déjà demandé une synthèses. Je me contente de copier les réponses pertinente pour comprendre ses mécanisme et lever quelques fausses idées sur l'IA.

En ce qui concerne les LLM axées sur le dessin, c'est intéressant de comprendre le mécanisme de création d'après un prompt. Elle ne copie pas. Elle analyse la demande et restitue ce qu'elle conçoit comme le plus proche de la demande. Et bien sur les lois de la probabilité font que même si statistiquement l'Ia choisi un élément probable il est possible qu'elle hallucine. Terme de l'IA pour désigner une erreur dans le dessin. Pas un bug mais une mauvaise interprétation statistique.

Concernant les mains c'est compliqué. Dans la quantité d'images décortiquées les doigts sont rarement les cinq distinctement présents sur l'image. Ils peuvent aussi être croisé et jouer avec les ombres. D'où le nombre d'erreur par une mauvaise estimation statistique la tache ayant été catégorisé doigt étant autre chose. Le correctif a été du genre : "Rappelle toi qu'un humain à cinq doigts maximum" ce qui oblige a effectue une passe de contrôle pour corriger.

A sa façon, l'IA est créative selon des probabilités. Suivant la complexité du prompt, il faudra certainement plusieurs essais pour forcer un résultat probant parmi les possibilité statistique dans lesquelles l'IA puise pour dessiner les concepts demandés.

D'une certaine manière comme un peintre refait plusieurs essai pour son tableau parce que le résultat ne lui convient pas ou dans le cas de l'IA parce que le résultat ne convient pas au client. . Et pour le dessin, même chose. Un coup de gomme aide souvent. Mais si les probabilités peuvent s'affiner avec le temps, l'IA sera peut être capable de fournir un 100% conforme aux attentes du premier coup.

Quelle soit créative ou copiste ne change rien à la mise sur le banc de touche des dessinateurs. Le débat sur la propriété intellectuelle en matière d'image n'aurait pas lieux d'être. Car l'IA serait créative. Et à partir de là, tout ce qu'elle dessine d' l'art Pas frapper Flop.

[Zedafty]

Ah mais si le débat sur la propriété intellectuelle aurait lieu d'être ! Si l'IA générative est créative et qu'elle produit des œuvres originales, alors c'est à elle que revient la « création » d'une œuvre de l'esprit, et non au ‘prompter’ qui ne peut en aucun cas s'attribuer la qualité d'auteur de cette œuvre car il n'est en réalité que le « commanditaire » de l'oeuvre. Et puisque l'IA n'est pas une personne ‘physique’ elle ne peut pas non plus être considérée comme auteur de l'œuvre

[Outsider]

Tu as raison, le fond du problème se déplace. Plus question d'ayant droits, mais de savoir qui a la paternité de l'oeuvre. Celui qui peint ou celui qui commande l'oeuvre. La logique voudrait que ce soit l'IA qui soit propriétaire des droits.

Mais l'IA n'a aucune reconnaissance légale. Donc elle n'est propriétaire de rien du tout. Le droit courant des entreprise accorde les droits des oeuvres ainsi générée au prompteur. Sauf aux USA où ces oeuvres générées tombent immédiatement dans le domaine public.

[Zothike]

Tu as raison, le fond du problème se déplace. Plus question d'ayant droits, mais de savoir qui a la paternité de l'oeuvre. Celui qui peint ou celui qui commande l'oeuvre. La logique voudrait que ce soit l'IA qui soit propriétaire des droits.

Mais l'IA n'a aucune reconnaissance légale. Donc elle n'est propriétaire de rien du tout. Le droit courant des entreprise accorde les droits des oeuvres ainsi générée au prompteur. Sauf aux USA où ces oeuvres générées tombent immédiatement dans le domaine public.

Je suis en train de suivre une UE (Unité d'Enseignement) au CNAM NTD106 "Pratiques d'illustration pour les médias, le cinéma et l'édition" où il est beaucoup question de droits d'auteur, et il va y avoir une séquence sur les IA génératives, j'essaierai de faire un retour s'il y a des infos qui éclairent sur le sujet (jurisprudence).

[FloP]

Elle n'a aucune compréhension des connaissances qu'elle possède. Si j'ai bien compris elle référence des mots qu'elle lie avec des concepts. Elle analyse ensuite les mots de la question, sa syntaxe et autre éléments grammaticaux pour rechercher des équivalents statistiques afin de générer une réponse. C'est un peu plus compliqué que cela. Mais en gros, elle prend un pari statistique que son exposé soit bon. Ce qui génère des erreurs de bonne foi, quand les probabilités sont défavorables.

Bon, j'ai eu un peu de temps et j'ai pris sur moi pour lire tes posts. C'est un peu long (je n'ai surement pas tout retenu) et je passerai le côté "on est tous sur écoute"...
Concernant l'IA conversationnelle, je suis a peu près d'accord avec la description que tu en donnes ci-dessus. Elle n'est donc pas intelligente, elle ne récite que ce que tu lui as appris en jouant au dés (donc, au passage, sa base d'entrainement est crutiale sur son "savoir" !). En plus, tu t'en es aperçu car tu as remarqué qu'elle s'adapte au fur et à mesure de ta discussion avec elle.
Bref, elles sont actuellement programmées pour aller dans ton sens. Donc elles génèrent des réponses qui vont te plaire. Il n'y a rien d'objectif ni de vrai dans ses réponses. C'est ton "mode de pensée" qu'elle te ressort tout simplement. Et plus tu lui indiques ce que tu penses, plus elle va aller dans ton sens.

Pour du jeu de rôle et inventer des histoires c'est pas mal (mais on s'en lassera je pense si rien de frais n'y est apporté). Pour donner des réponses justes, elles ne sont pas encore prêtes. Et c'est grave de leur faire actuellement confiance.

Et oui, obtenir des infos vérifiées et valides est un métier. Journaliste par exemple. Et non, baser son raisonnement sur des données "pas plus fausses que d'autres" n'est pas sain ! On dirait une devise Shadok, "si je prends un truc faux avec un truc faux, j'obtiens un truc vrai !".
Ajoute à ton slogan "Apprenez à pensez par vous même mais à partir de données VALIDÉES (sinon méfiez-vous)."

Ah oui, je parle là que des IA conversationnelles, pas des autres... Dans le futur je ne sais pas si elles s'amélioreront où s'il y a quelque chose de plus profond qui ne leur permettront pas de franchir ce cap ?

[DocteurQui]

il est beaucoup question de droits d'auteur, et il va y avoir une séquence sur les IA génératives, j'essaierai de faire un retour s'il y a des infos qui éclairent sur le sujet (jurisprudence).

C'est en partie pour ça qu'il y a eu la grève SAG-AFTRA en 2022~2023 ; ils voulaient, à juste titre, que les acteurs aient un droit de regard, et une rémunération, sur l'utilisation de leur image et/ou de leur voix [remodélisés grâce à une IA pour une série ou un film].

[szass]

Elle n'est donc pas intelligente, elle ne récite que ce que tu lui as appris en jouant au dés (donc, au passage, sa base d'entrainement est crutiale sur son "savoir" !). En plus, tu t'en es aperçu car tu as remarqué qu'elle s'adapte au fur et à mesure de ta discussion avec elle.
Bref, elles sont actuellement programmées pour aller dans ton sens. Donc elles génèrent des réponses qui vont te plaire. Il n'y a rien d'objectif ni de vrai dans ses réponses. C'est ton "mode de pensée" qu'elle te ressort tout simplement. Et plus tu lui indiques ce que tu penses, plus elle va aller dans ton sens.

Ce n'est pas tout à fait vrai, et cela dépend des modèles que tu prends bien sûr.
Certaines IA ou certaines versions de certains modèles IA flagornent davantage que d'autres.

Mais les bons modèles bien calibrés ne vont pas forcément dans ton sens. Et ce calibrage (degré de flagornerie), ce n'est pas elle qui le fait, mais l'humain derrière qui l'entraîne.

Quant à la véracité de ses réponses, et tout dépend là-aussi du modèle, hormis en cas d'hallucination (ce qui arrive de moins en moins souvent voir quasi plus du tout à mesure que les modèles évoluent), c'est pour la plupart du temps vrai et vérifiable.
Beaucoup d'IA citent leurs sources, des articles scientifiques du Web, etc. Tu as les liens, tu peux aller les consulter.

Les bons modèles vont chercher les informations sur des sites réputés fiables (donc pas sur Wikipédia ou sur des sites d'infos de merde) et ce qu'elle en ressortira sera donc à 99% du temps vrai. Le 1% restant, on mettra ça sur le dos des possibles hallucinations.
Après tout dépend aussi ce que tu lui demandes, de l'objectivité/subjectivité de ta question, du thème (sensible ou non), et comme dit plus haut de son degré de flagornerie.

Pour avoir déjà "débattu" avec l'IA sur des thèmes sérieux, je peux t'assurer qu'elle ne vont pas toutes dans ton sens pour te faire plaisir et entendre ce que tu veux entendre. C'est peut-être le cas de Copilot, je ne sais pas, mais elles ne sont pas toutes pareil.
La discussion m'a appris beaucoup de choses (côté technique), rien n'était faux, tout était documenté, c'était très intéressant, comme d'ouvrir une encyclopédie mais où chaque paragraphe de réponse était structuré selon tes questions plutôt que de devoir chercher les infos demandées dans 12000 bouquins pendant des heures.

Vu que nous n'étions pas toujours d'accord, si j'avais eu ce même débat avec un humain, nulle doute que le ton serait vite monté et qu'on n'aurait abouti à rien. Et nulle doute que la personne en face ne m'aurait pas appris autant de choses en retour voire même m'aurait asséné des tas de réponses bancales et fausses parce que l'humain a souvent tendance à la ramener même sur des sujets qu'il ne maîtrise pas.

Et c'est ça la force de l'IA conversationnelle, elle est neutre, n'a pas d'ego, ni d'émotion, elle ne cherche pas à convaincre coûte que coûte, donc elle ne va pas s'enflammer quand elle n'est pas d'accord, elle ne va pas mentir pour avoir raison, et tu peux discuter des heures entières avec elle sans qu'elle en ai marre. Des heures où au lieu de te prendre la tête avec quelqu'un, tu apprends des choses. C'est une encyclopédie interactive.

Alors oui, ça ne remplace pas le côté humain d'un débat, c'est vrai, mais là encore tout dépend du résultat que tu souhaites obtenir.
Avoir de vraies infos rapidement ou simplement échanger avec un être vivant.

Si tu veux juste des infos, vraies, vérifiables, neutres, compilées et structurées, je doute fortement qu'un humain y arrive aussi bien et ce dans chaque domaine existant. Même si tu as un pote qui s'y connaît super bien en énergie renouvelable et avec qui tu pourrais parler des heures de réchauffement climatique, pourras-tu également parler avec lui de mécanique des fluides, de physique quantique, de géométrie euclidienne ou de programmation en C++ ? Évidemment que non. Ou alors tu as un pote très intelligent.

Mais si ton but c'est juste de partager un bon moment avec un pote à discuter autour d'une bière de réchauffement climatique, évidemment que l'humain sera préférable et qu'une IA t'emmerdera davantage. Déjà parce qu'elle ne boit pas de bière.

[FloP]

Heu, tu parles de quelle IA là ? Parce que pour l'instant celles que j'ai testées (chatgpt, mistral,...) ne m'ont jamais données de réponses vraiment fiables ?