Isaac, au secours !

Lors de la conférence sur l'intelligence artificielle qui se tient actuellement à Genève, les robots les plus perfectionnés ont été montrés et "interviewés" par la presse. L'une de ces machines, Sophie, a déclaré que, je cite : "les robots humanoïdes peuvent diriger avec un niveau d’efficacité supérieur à celui des dirigeants humains", ce à quoi elle a ajouté "Nous n’avons pas les mêmes préjugés ou émotions qui peuvent parfois obscurcir la prise de décision et nous pouvons traiter rapidement de grandes quantités de données afin de prendre les meilleures décisions"

Bon, évidemment, les robots ont tempéré ces propos en disant qu'ils comptent collaborer avec les humains et que leur rôle sera de nous aider dans nos combats comme le réchauffement climatique et tout ça. Un autre robot interrogé avait évoqué son "inquiétude" à l'idée que les futures IA pourraient manipuler et contrôler les humains sans qu'ils ne s'en aperçoivent. Donc, on n'en n'est pas encore à Skynet mais ça a l'air de déjà préoccuper tout le monde, robots compris. L'ONU, de son côté, a appelé à la création de garde-fous pour protéger les droits humains des dérives des IA.

Dans ce contexte, je me pose quand même la question : est-ce que quelqu'un a lu un seul bouquin d'Isaac Asimov ? Parce que si quelqu'un a bien montré les limites de telles mesures, c'est bien Asimov, qui n'était pas la moitié d'un con.

Et vous, est-ce qu'un futur peuplé de robots anthropomorphes avec des IA toujours plus perfectionnées vous inquiète où est-ce qu'un jour grâce à ces machines, l'humanité pourra survivre aux menaces qui pèsent au dessus de sa tête ?

Là, c'est toi qui interprète le fait selon ta convenance. De l'état des lieux que j'ai exposé, j'en ai tiré la conclusion que le libre arbitre existe de par l'idée que même si on pouvait observer l'infiniment petit pour en tirer un modèle qui prévoirait le "futur", on ne verrait qu'un seul futur possible, à savoir celui que l'on observe (et qui est une possibilité parmi d'autres).

Toi, tu prends les mêmes faits et tu en tires d'autres conclusions. Et comme tu l'as dit, tout ce qu'on sait, c'est qu'on ne peut pas savoir (Socrate represent sisi toi-même tu sais que tu sais rien).

Je trouve ça fou que la physique quantique cristallise autant d'espoirs métaphysiques en faveur d'un univers non déterministe et ce jusque chez les physiciens eux-mêmes.

Et là c'est toi que je trouve fou. La science n'est pas là pour entretenir l'espoir ou trancher les débats philosophiques, elle est là pour observer et comprendre et la physique quantique reste un domaine dans lequel rien n'est jamais acquis. Ce que j'explique, c'est, je pense, ce qui est plus ou moins communément admis à l'heure actuelle mais il suffit d'une découverte pour tout remettre en cause et repartir de zéro ou presque.

Mais nous nous éloignons de pluuuuus en pluuuuuuus du sujet qui est, je le rappelle, la possible intervention de l'intelligence artificielle dans un avenir plus ou moins lointain dans la sphère politique/économique/sociale et ce que ça évoque chez vous.

Et si chaque décohérence créait un nouvel univers...?

Cette théorie existe...

Mais c'est bien pour cela que j'en parlais 😉.

Bon, en tout cas dans le doute, quand vous payez votre parking ou que vous prenez un café à la machine, pensez à dire silvousplaitmerci à l'automate en face de vous. Cay plus prudent.

Modifié il y a 3 ans

9 juillet 2023 à 20:36

Si l'IA pouvait supprimer la réunionite aiguë à la française, on assisterait à des gains de productivité non négligeables.

Si l'IA pouvait supprimer la réunionite aiguë à la française, on assisterait à des gains de productivité non négligeables.

Vous parler des réunions de chantier ?

Vous parler des réunions de chantier ?

C'est un domaine que je ne connais pas. Je n'ai connu que les réunions direction - service commercial - service technique. Une demi journée de perdue par semaine.

Modifié il y a 3 ans

9 juillet 2023 à 19:39

Vous parler des réunions de chantier ?

C'est un domaine que je ne connais pas. Je n'ai connu que les réunions direction - service commercial - service technique. Une demi journée de perdue par semaine.

Chez les Témoins de Jéhovah, c'est une demi-journée par jour. :/

C'est un domaine que je ne connais pas. Je n'ai connu que les réunions direction - service commercial - service technique. Une demi journée de perdue par semaine.

Oh c’est dommage, le bâtiment c’est un super secteur 🤣 et dans les réunions, un seul principe de base à suivre …..

C’est le premier qui bande qui encule l’autre 🤡

Perte de temp garantit assuré aussi 😉

Des robots animent déjà des conférences. D'autres gèrent des organismes d'assurance. La Russie a mis en service une sorte de Skynet en mesure de contrôler son potentiel militaire. Certains systèmes d'armes tactiques sont en partie autonomes et attaquent les cibles de la plus haute valeur si un objectif d'opportunité apparaît au dernier moment.
Les choses suivront cette évolution de manière exponentielle, toujours plus vite.

Tout changement fait peur, comme tout ce que l'on ne connaît pas. L'imagination remplace la compréhension, avec pour conséquence des projections d'avenir périmées avant d'être exposées.

C'est très compliqué, je trouve, les lois de la robotique d'Asimov.

Par exemple : "un robot ne peut nuire à un être humain ni laisser sans assistance un être humain en danger

Où sont les limites (palier et plafond) de "nuire" ? Idem pour "sans assistance" et "en danger" ?

C'est justement l'un des thèmes d'Asimov. Il a créé les trois lois pour montrer comment elles peuvent être contournées ou interprétées différemment de leur but premier.

C'est juste stérile de baser ce débat sur un truc pondu par un auteur de SF mort deux semaines avant Benny Hill. Quand on invente de nouvelles technologies, aucune barrière morale ne peut influer sur leur utilisation, bonne ou mauvaise. Fin de la conversation.

Est-ce que ce serait vraiment un problème si les robots nous remplaçaient ? Moi je nous regretterais pas, j'aime pas les humains.

C'est juste stérile de baser ce débat sur un truc pondu par un auteur de SF mort deux semaines avant Benny Hill. Quand on invente de nouvelles technologies, aucune barrière morale ne peut influer sur leur utilisation, bonne ou mauvaise. Fin de la conversation.

En effet, on n'invente rien sans lui trouver une application pour les besoins militaires. Le préservatif n'y a pas échappé.

Modifié il y a 3 ans

11 juillet 2023 à 00:04

C'est juste stérile de baser ce débat sur un truc pondu par un auteur de SF mort deux semaines avant Benny Hill. Quand on invente de nouvelles technologies, aucune barrière morale ne peut influer sur leur utilisation, bonne ou mauvaise. Fin de la conversation.

En effet, on n'invente rien sans lui trouver une application pour les besoins militaires. Le préservatif n'y a pas échappé.

Ca évite aux snipers de se choper des saloperies quand ils tirent leurs coups.

@furia, les oeuvres d'Orwell et d'Huxley sont bien antérieures à Asimov mais "1984" et "Brave new World" sont toujours pertinents à l'heure actuelle.

C'est juste stérile de baser ce débat sur un truc pondu par un auteur de SF mort deux semaines avant Benny Hill. Quand on invente de nouvelles technologies, aucune barrière morale ne peut influer sur leur utilisation, bonne ou mauvaise. Fin de la conversation.

En effet, on n'invente rien sans lui trouver une application pour les besoins militaires. Le préservatif n'y a pas échappé.

Ca évite aux snipers de se choper des saloperies quand ils tirent leurs coups.

@furia, les oeuvres d'Orwell et d'Huxley sont bien antérieures à Asimov mais "1984" et "Brave new World" sont toujours pertinents à l'heure actuelle.

Disons que cet objet a été utilisé par les soldats pour éviter à l'eau de pénétrer dans les canons.

[...] les oeuvres d'Orwell et d'Huxley sont bien antérieures à Asimov mais "1984" et "Brave new World" sont toujours pertinents à l'heure actuelle.

@Pygmalion Dans le même genre, il y a aussi le film Brazil de l’ex Monty Python Terry Gilliam.

Qui s'inspire en partie de ces deux bouquins.

L'une de ces machines, Sophie, a déclaré que, je cite : "les robots humanoïdes peuvent diriger avec un niveau d’efficacité supérieur à celui des dirigeants humains", ce à quoi elle a ajouté "Nous n’avons pas les mêmes préjugés ou émotions qui peuvent parfois obscurcir la prise de décision et nous pouvons traiter rapidement de grandes quantités de données afin de prendre les meilleures décisions"

Les IA sont programmées par des humains et sont donc le relai des biais classistes, sexistes, racistes, etc de leurs programmeur·se·s. Par exemple, un grand nombre de programmes de reconnaissance faciale sont entraînés sur des visages blancs, ce qui entraîne des taux d'erreur désastreux lorsqu'il s'agit de reconnaître des personnes noires.

L’avenir n’est pas écrit, se sont nos action qui le définisse.

Rien n'est moins sûr... Avons-nous réellement un libre arbitre ? 🙄

J'avais vu une excellente vidéo de la chaîne Monsieur Phi qui revenait sur les différents sens du libre-arbitre en philosophie et les implications de ces différents libre-arbitres : Les philosophes ne comprennent rien à la LIBERTÉ (le titre est volontairement putaclic)
youtu.be/FuqIY-Xf5Is

Pour ma part, cela ne m'inquiète pas, mais à condition que leur logiciel soit implémenté des trois lois de la robotique définies par Isaac Asimov :

Première Loi : un robot ne peut nuire à un être humain ni laisser sans assistance un être humain en danger.

Deuxième Loi : un robot doit obéir aux ordres qui lui sont donnés par les êtres humains, sauf quand ces ordres sont incompatibles avec la Première Loi.

Troisième Loi : un robot doit protéger son existence tant que cette protection n'est pas incompatible avec la Première ou la Deuxième Loi.

Tout le principe des nouvelles d'Asimov, c'est justement de montrer à quel point ces lois qui semblent idéales au premier abord sont en fait limitées et insuffisantes ^^'

Bon alors, c'est parti pour l'instant physique quantique de comptoir [...] Je dis peut-être de la merde mais c'est ce que j'ai plus ou moins compris du bousin à la grosse louchasse.

Je crois que tu fais référence à l'interprétation de Copenhague, ou plutôt ses implications quant à la liberté, qui pose en gros la question de savoir s'il y a ou non une incertitude fondamentale de l'état de l'univers. Elle est très discutée et n'a pas encore de réponse définitive.
Mais quand bien même l'école de Copenhague aurait tort et qu'il n'y aurait pas d'incertitude fondamentale et que nos actions seraient causalement déterminées, cela ne veut pas dire qu'on ne peut pas se considérer libre (cf la vidéo à laquelle je fais référence plus haut).

Sondage

Spoiler

Livre / chapitre

Réponses