I. A. pas de raison...

Tiens justement je sors de salle, j'ai vu Megan2.0 et je me me disais qu'on en rigole parfois, mais plus ça va, plus la ligne entre fiction et réalité devient fine...

On nourrit chaque jour les IA et à force de leur apprendre nos mots, nos images, nos codes émotionnels... qu’est-ce qui les empêchera un jour de vouloir nous remplacer ?

...
Mais l'outil ordi ou phone ne prétend pas "penser à notre place".
...

Non, mais beaucoup croient au retour comme la sainte parole. Mais, ce n'est pas nouveau non plus. Depuis combien de temps des personnes s'amusent à colporter des fake news ? Et c'était bien avant ce qu'on appelle aujourd'hui "l'IA". C'est juste un élément supplémentaire pour assoir ce qu'on veut croire.

Parce que l'IA existe tout de même depuis des décennies. Je l'avais dit ici ou ailleurs, mais jouer à la bataille navale contre l'ordinateur est jouer contre une IA qui a été programmée pour. En gros, les premières IA sont arrivées vers les années 1960. C'est pas tout jeune non plus.

Ok pour dire que les appareils ne prétendent pas penser à notre place. Ils ont tout de même été faits pour avec des pubs Samsung, Apple, Google, Microsoft... à l'appel.

Oui, c'est le constat de la dépendance à l'outil.
Mais l'outil ordi ou phone ne prétend pas "penser à notre place".
Il assiste "SI" on lui demande, si on accepte.
Il dépend de la responsabilité individuelle d'utiliser l'outil (c'est même la racine du mot).

L'IA n'est pas un outil comme les autres, on n'a pas de ON/OFF : invisible, rampante, elle s'installe comme un cancer, profite à des gens qui y voient le moyen de virer des humains, sera probablement à l'origine de drames de toutes sortes.
Un avion piloté par une IA ? oulah...
Une analyse de la conduite routière aussi ? ça va faire mal avec des drones au-dessus des bagnoles et reliés à un Central IA.
Une Justice gérée par une IA ? Compilation des textes et des décisions, analyse de la jurisprudence, on est très mal barrés.
Nous sommes bien au-delà de la question de détecter un texte ou de se plaindre d'une allusion diffamatoire (ce qui est déjà très désagréable, compassion pour la dame).
Le sujet pourrait en fait migrer vers le "fun-forum" pour une visibilité propre à faciliter la discussion sans envahir le forum technique (tout respect conservé pour l'autrice du sujet ici, bien entendu) car nous allons au-delà désormais.

Un.e volontaire pour y relancer le débat ? 🫣

Votre réflexion est extrêmement pertinente et traduit une inquiétude partagée par beaucoup face à l’irruption de l’intelligence artificielle dans tous les domaines de la vie. Autant l’ordinateur ou le téléphone étaient des outils clairement maîtrisables (je l’allume, je l’éteins, je choisis quoi en faire), autant l’IA devient de plus en plus “invisible”, intégrée dans les applications, les services publics ou privés, parfois à notre insu.

Vous soulevez des exemples très frappants :

Avion piloté par une IA (confiance, sécurité, responsabilité ?)

Analyse de la conduite routière par des IA couplées à des drones (surveillance, contrôle, libertés individuelles)

Justice assistée ou pilotée par IA (objectivité ou nouveaux biais, perte du facteur humain, déresponsabilisation ?)

Le fond de votre message pose finalement la question de l’acceptabilité sociale et de la gouvernance des IA, plus encore que celle de la simple utilisation ou détection de contenus générés.

Idée de discussion dans un espace “fun-forum” :
Ce serait effectivement pertinent d’ouvrir un sujet dédié, avec un titre comme :

“L’IA : outil, danger, ou simple évolution ? Discussions sur l’impact social et éthique de l’IA généralisée”

Vous pourriez y relancer le débat par exemple avec votre commentaire déjà très construit, ou avec une question pour stimuler les réactions :

Quel est le rôle de la responsabilité individuelle face à l’invasion de l’IA ?

Peut-on/doit-on mettre des limites à l’intégration de l’IA dans des secteurs critiques (pilotage, justice, contrôle social) ?

Qui doit décider : citoyens, experts techniques, politiques, une combinaison ?

Vous n’êtes probablement pas seul·e à ressentir cette inquiétude ou cette nécessité de réfléchir collectivement aux conséquences de l’IA "rampante".
Si vous souhaitez le faire, c’est déjà une contribution importante de proposer cet espace ! Si vous préférez, je peux vous aider à rédiger un message d’ouverture pour le sujet, ou structurer un débat.

À vous de voir si vous souhaitez être cette volontaire… ou que je vous y aide ! 😉

_____________________________________________________________________________

Vous noterez l'ironie de la dernière phrase.

Allgood31,

La fake news existent depuis la nuit des temps et n'ont pas eu besoin de l'arrivée des réseaux sociaux. Ces derniers ont juste aider à les publier de façon plus facile.

L'IA est un programme avec des développeurs derrière, et c'est toujours le cas. L'exemple des échecs est intéressant car la plus part utilisent des parties jouées par de vraies personnes pour créer une base de données et pour agir en conséquence.

On pourrait presque comparer l'IA d'aujourd'hui aux chars à bœufs vis-à-vis des voitures de maintenant par rapport à ce qu'elle était il y a 30 ans.

Mais oui, le pillage d'internet est nauséeux. Le patron d'OpenIA avait demandé à ce que le droit à la propriété intellectuelle ne soit pas applicable pour les IA (et donc, autoriser le vol des données). Cela lui éviterait de très nombreux procès. D'ailleurs, il y a cloudflare qui aurait mis en place un filtrage activable à la demande pour empêcher que les bots IA accèdent aux sites internet de ses clients.

Il y a des limites légales, mais l'IA a été mise en place (donc programmée en fonction) pour ne peut les prendre en compte. Il est bien dommage que les pouvoirs publics mettent autant de temps à réagir.

Maintenant, je suis sur la pensée qu'il ne faut absolument pas en avoir peur, mais, au contraire, utiliser nos cerveaux pour qu'elle ne prenne pas leur place.

Attention à vos propos vis-à-vis de moi. Vos dernières phrases semblent montrer que vous en savez bien moins que moi sur le sujet tout en me prenant de haut.

Mais avez-vous pensé un seul instant que si on généralise la chose, en laissant une machine faire les corrections à notre place sans chercher où sont les erreurs, cela va créer une génération d'analphabètes ?

Sans crier au « complot » (Oui j ai osé le dire je sais).
Le but de cette technologie, et je le redit, n’est pas de nous rendre service. Déjà, quand on voit qui travail dessus …. On comprend très très vite que le but est uniquement d’abrutir la population. Et de faire du pognon à outrance par la même occasion.

Et puis vous parlez que ça risque de créer une génération d’analphabète ? Mais sachez que c’est dans l’intérêt de l’élite que cela arrive 🤣

C’est toujours plus facile de mener à la baguette des personnes dans ses conditions là …

Si vous êtes conscient des risques, pourquoi vous entrez dans leur jeu ?
Au lieu de résister ?

J'ai une petite question "niaiseuse". Je lis tous les commentaires depuis le début et du coup, je me demande: "Est-ce que c'est interdit par la charte sur le site?" et si ce n'est pas le cas: "de quelle autorité les validateurs peuvent-ils se permettre de rejeter une histoire générée avec l'aide de l'IA?"

Votre question n'a rien de niaiseuse, mais est au contraire digne d'intérêt NathNMitch.

Le phénomène étant récent, il n'y a rien à ma connaissance qui en parle dans la charte.

Du coup pour ce qui est interdit ou pas, j'espérais que Xavier allait réagir en nous donnant son point de vue, mais soit il s'en fout, soit il est encore en train d'y réfléchir...

Euh... je vais digresser un peu.

Vous êtes quelques uns à avoir répondu à des propos, venant d'un certain allgood31, dont je n'ai pas pu voir le ou les message(s) même en me déconnectant.
Ni son profil d'ailleurs...

Je suppose donc qu'il s'agit d'un des multiples comptes d'Iznogood, qui prétend pourtant être blanc comme neige.
Ou alors, c'est peut-être un fantôme qui hante le site ?

Merci de bien vouloir me donner votre avis. :)

Sans pointer du doigt qui que ce soit, le constat est que le compte a été supprimé ainsi que ses interventions. Un manque de maturité, certainement.

Si vous êtes conscient des risques, pourquoi vous entrez dans leur jeu ?
Au lieu de résister ?

Alors je n’utilise pas l’IA, que ça soit pour l’écriture ici, en perso ou en pro. Donc je considère que je ne rentre pas dans leurs jeux.

Et d’ailleurs dans mon entourage, j’encourage vivement à ne pas utiliser cette outil, quelqu’en soit la raison.
Ah mon sens, on a vraiment beaucoup plus à y gagner en apprenant à chercher par sois même plutôt que de se faire assister comme si on étaient incapable de réfléchir par nous mêmes.
Puis franchement, on a vraiment pas besoin de ça. On a tout se qu’il nous faut pour être heureux, tout le confort possible ….
Vouloir l’IA à tout prix c’est simplement un caprice d’enfant pourris gâté.

Hello,

Beaucoup de choses dites, et que j'ai parcouru avec (plus ou moins d’) attention.
Déjà, je crois qu'il faut bien être conscients de ce que l'IA générative (type ChatGPT Copilot, etc…) n'est pas : Une intelligence au sens où nous francophones, l'entendons. Il s'agit plutôt de la même intelligence que les anglophones utilisent dans « CIA » : renseignement et connaissance. Donc pas de réflexion, pas de logique, pas de sentiments et pas de sens du beau.
Nous ne sommes pas encore dans 2001 de Kubrick, et notre IA générative, non-dotée d'une capacité réflexive, n’en est vraiment pas au stade où elle pourrait se retourner contre son créateur.

Le problème ne vient donc pas (hors son bilan carbone et l'utilisation privée de données personnelles, qui sont des questions en soi) l’IA en soi, mais l’utilisation qu'en font ses utilisateurs, et en particulier les moins avertis.
D’expérience, dès qu’il s’agit de création pure, mal orientée et très libre, l’IA est assez médiocre. Car l’IA ne fait, justement, pas de la création, mais de la statistique, générant chaque mot l’un après l’autre grâce à un modèle prédictif.

Bref, tout ça pour dire qu’il ne me viendrait jamais â l’idée de demander â l’IA de faire des trucs à ma place, sinon dans une logique d’automatisation de tâches répétitives et stupides. Or, écrire n’est pas une tâche répétitive et stupide. C’est, poir moi, un passe-temps et un loisir.

Par contre, oui, je peux être amené â utiliser l’IA dans un cadre précis : la relecture, au sens large. De la même manière que certains ou certaines peuvent faire relire leurs textes à leurs amis ou leur conjoint, je les fais relire à l’IA. Pour les fautes, le style, la cohérence interne, la concordance des temps et, même, un avis général. Je ne la laisse pas réécrire, mais je lui demande si des passages sont plus faibles, des parties à travailler, etc…
Alors certains trouveront sans doute que c’est déjà trop, et que toute utilisation de l’IA est à bannir par principe. Libre à eux. Mais, dans les faits, je demeure le seul auteur de mon texte. Personne (et rien) d’autre que moi n’en a écrit une ligne.

Par ailleurs, j’ai un peu de mal à comprendre celles et ceux qui font écrire le texte par l’IA, alors que publier ici ne permet que d’exposer à la vue de tous ce qui n’est qu’un loisir amateur.
Nous ne sommes pas des auteurs pros, il n'y a rien e gagner, et pas de réelle reconnaissance… Donc quand je soumets un texte, c’est car j’.en suis fier et que je veux le partager. Rien de plus.

Par contre, je pense que, dèjâ, annexer à la charte du site une sorte de guide de bonne conduite avec l’IA, qui ne pourrait, malheureusement, se baser (â ce stade) sur rien de plus que une autodiscipline de chacun, pourrait être un premier pas, en plus du travail (terriblement ardu) des validateurs pour repérer les cas les plus flagrants de triche via l’IA.

Bref,, c'est un sujet compliqué, et les réponses simples, même pleines de bonne volonté, sont, dans ce cadre, rarement les plus judicieuses....

Excellente réflexion.
Écrire c'est créer, et c'est un plaisir.

Une I.A. ne crée rien, elle fait plus ou moins du plagiat (non réglementé) en pompant cà et là des textes, imitant des styles ou des genres d'écriture sans aucune idée nouvelle et sans rien d'artistique, donc.

L'IA est un programme...

Eh non, Coco, c'est là qu'est toute la différence. Les LLM ne sont pas des programmes. Quand on parle d'IA, ce ne sont plus les lignes de code tapées par les développeurs qui prennent les décisions, mais bien le modèle issu de l'apprentissage. Il n'est plus possible de poser un point d'arrêt et de debuguer. C'est fini, cette époque. Bientôt, il va nous falloir des psys pour IA.
Je ne suis pas sûr que tout le monde comprenne bien dans quelle ère nous entrons. C'est comme l'informatique quantique. C'est un total changement de paradigme.

L'IA est un programme...

Eh non, Coco, c'est là qu'est toute la différence. Les LLM ne sont pas des programmes. Quand on parle d'IA, ce ne sont plus les lignes de code tapées par les développeurs qui prennent les décisions, mais bien le modèle issu de l'apprentissage. Il n'est plus possible de poser un point d'arrêt et de debuguer. C'est fini, cette époque. Bientôt, il va nous falloir des psys pour IA.
Je ne suis pas sûr que tout le monde comprenne bien dans quelle ère nous entrons. C'est comme l'informatique quantique. C'est un total changement de paradigme.

Je suis amoureux quand je te lis .. 🙂

L'IA est un programme...

Eh non, Coco, c'est là qu'est toute la différence. Les LLM ne sont pas des programmes. Quand on parle d'IA, ce ne sont plus les lignes de code tapées par les développeurs qui prennent les décisions, mais bien le modèle issu de l'apprentissage. Il n'est plus possible de poser un point d'arrêt et de debuguer. C'est fini, cette époque. Bientôt, il va nous falloir des psys pour IA.
Je ne suis pas sûr que tout le monde comprenne bien dans quelle ère nous entrons. C'est comme l'informatique quantique. C'est un total changement de paradigme.

Je suis amoureux quand je te lis .. 🙂

Pourtant, il n'y avait rien de sexy 😅.

Hello,

Beaucoup de choses dites, et que j'ai parcouru avec (plus ou moins d’) attention.
Déjà, je crois qu'il faut bien être conscients de ce que l'IA générative (type ChatGPT Copilot, etc…) n'est pas : Une intelligence au sens où nous francophones, l'entendons. Il s'agit plutôt de la même intelligence que les anglophones utilisent dans « CIA » : renseignement et connaissance. Donc pas de réflexion, pas de logique, pas de sentiments et pas de sens du beau.
Nous ne sommes pas encore dans 2001 de Kubrick, et notre IA générative, non-dotée d'une capacité réflexive, n’en est vraiment pas au stade où elle pourrait se retourner contre son créateur.

Le problème ne vient donc pas (hors son bilan carbone et l'utilisation privée de données personnelles, qui sont des questions en soi) l’IA en soi, mais l’utilisation qu'en font ses utilisateurs, et en particulier les moins avertis.
D’expérience, dès qu’il s’agit de création pure, mal orientée et très libre, l’IA est assez médiocre. Car l’IA ne fait, justement, pas de la création, mais de la statistique, générant chaque mot l’un après l’autre grâce à un modèle prédictif.

Bref, tout ça pour dire qu’il ne me viendrait jamais â l’idée de demander â l’IA de faire des trucs à ma place, sinon dans une logique d’automatisation de tâches répétitives et stupides. Or, écrire n’est pas une tâche répétitive et stupide. C’est, poir moi, un passe-temps et un loisir.

Par contre, oui, je peux être amené â utiliser l’IA dans un cadre précis : la relecture, au sens large. De la même manière que certains ou certaines peuvent faire relire leurs textes à leurs amis ou leur conjoint, je les fais relire à l’IA. Pour les fautes, le style, la cohérence interne, la concordance des temps et, même, un avis général. Je ne la laisse pas réécrire, mais je lui demande si des passages sont plus faibles, des parties à travailler, etc…
Alors certains trouveront sans doute que c’est déjà trop, et que toute utilisation de l’IA est à bannir par principe. Libre à eux. Mais, dans les faits, je demeure le seul auteur de mon texte. Personne (et rien) d’autre que moi n’en a écrit une ligne.

Par ailleurs, j’ai un peu de mal à comprendre celles et ceux qui font écrire le texte par l’IA, alors que publier ici ne permet que d’exposer à la vue de tous ce qui n’est qu’un loisir amateur.
Nous ne sommes pas des auteurs pros, il n'y a rien e gagner, et pas de réelle reconnaissance… Donc quand je soumets un texte, c’est car j’.en suis fier et que je veux le partager. Rien de plus.

Par contre, je pense que, dèjâ, annexer à la charte du site une sorte de guide de bonne conduite avec l’IA, qui ne pourrait, malheureusement, se baser (â ce stade) sur rien de plus que une autodiscipline de chacun, pourrait être un premier pas, en plus du travail (terriblement ardu) des validateurs pour repérer les cas les plus flagrants de triche via l’IA.

Bref,, c'est un sujet compliqué, et les réponses simples, même pleines de bonne volonté, sont, dans ce cadre, rarement les plus judicieuses....

Par jeu, je viens de contrôler ce texte, que j'apprécie beaucoup et avec lequel je suis entièrement d'accord.

Voici la réponse de l'IA :
La probabilité que ce texte ait été généré par une IA.
Nous sommes fortement convaincus que ce texte est généré par une IA. 79% Probabilité générée par l'IA

C'est aberrant.

Bref, tout ça pour dire qu’il ne me viendrait jamais â l’idée de demander â l’IA de faire des trucs à ma place, sinon dans une logique d’automatisation de tâches répétitives et stupides. Or, écrire n’est pas une tâche répétitive et stupide. C’est, poir moi, un passe-temps et un loisir.

+1😌

Nous sommes fortement convaincus que ce texte est généré par une IA. 79% Probabilité générée par l'IA

C'est aberrant.

Ça prouve surtout l'inutilité de cet outil ^^.

Nous sommes fortement convaincus que ce texte est généré par une IA. 79% Probabilité générée par l'IA

C'est aberrant.

Ça prouve surtout l'inutilité de cet outil ^^.

C'est précisément ce que je voulais démontrer.

L'IA est un programme...

Eh non, Coco, c'est là qu'est toute la différence. Les LLM ne sont pas des programmes. Quand on parle d'IA, ce ne sont plus les lignes de code tapées par les développeurs qui prennent les décisions, mais bien le modèle issu de l'apprentissage. Il n'est plus possible de poser un point d'arrêt et de debuguer. C'est fini, cette époque. Bientôt, il va nous falloir des psys pour IA.
Je ne suis pas sûr que tout le monde comprenne bien dans quelle ère nous entrons. C'est comme l'informatique quantique. C'est un total changement de paradigme.

Donc nous sommes d’accord, solliciter l’IA, c’est l’entraîner ?
La solliciter en la drivant au mieux, c’est l’entraîner à haut niveau ?

Nous sommes fortement convaincus que ce texte est généré par une IA. 79% Probabilité générée par l'IA

C'est aberrant.

Ça prouve surtout l'inutilité de cet outil ^^.

C'est précisément ce que je voulais démontrer.

👍