C'était demain

[MrFurieux]

Le 07/09/2022 à 22:41, ManuTaden a dit :

Sur l'Onde de Choc => sacré bouquin, paru en 1975, avec une pré vision de l'internet, et d'un usage particulier de l'outil informatique mis en réseau. C'est John Brunner l'inventeur du terme Ver Informatique (ou Couleuvre dans la traduction française).

Ah ah pas mal. La traduction de la SF c'est un sujet en soi, avec de gros efforts souvent perdus. Par ex dans l'édition française de Paranoia, ils ont traduit à l'époque "R&D" (Research and Development) par "Recherche & Conception", alors que maintenant on ne se fatigue plus, on traduit "development" par "développement", ce qui crée parfois des confusions vu qu'il y avait des postes de développement pré-existants mais dans le sens du développement commercial et pas de la technique.

 

Le 07/09/2022 à 22:41, ManuTaden a dit :

ce qui n'est pas vraiment le cas dans le van Vogt, dans lequel les Armuriers utilisent l'outil informatique (à l'époque je ne pense pas que l'idée des IA soit imaginée) pour punir, automatiquement, les délinquants financiers.

A vrai dire l'idée de l'IA remonte à des milliers d'année au moins (le golem, le turc mécanique, l'androïde de Metropolis, pour citer qq exemples connus). Et bien sûr dans la SF à partir des années 50 en extrapolant les 1ers ordinateurs.

 

Le 07/09/2022 à 22:41, ManuTaden a dit :

Je suis en train de relire la série Hypérion (3° volume, Endymion en cours) de Dan Simmons, alors, actuellement, je me méfie des IA

😉

Un classique aussi ! Vu que maintenant on vit dans le futur, plutôt que de relire tu peux même tenter les essais de futorologie pour changer de la SF, c'est pareil avec la romance en moins et le réalisme (relatif) en plus. Nick Bostrom évidemment, mais il y en a plein d'autres tout aussi distrayants (Yval Noah Harari par ex, et je tenterais bien aussi la recommandation d'E. Musk).

[ManuTaden]

Le 08/09/2022 à 15:21, MrFurieux a dit :

 

Un classique aussi ! Vu que maintenant on vit dans le futur, plutôt que de relire tu peux même tenter les essais de futorologie pour changer de la SF, c'est pareil avec la romance en moins et le réalisme (relatif) en plus. Nick Bostrom évidemment, mais il y en a plein d'autres tout aussi distrayants (Yval Noah Harari par ex, et je tenterais bien aussi la recommandation d'E. Musk).

J'ai juste un problème en ce moment, je lis sur liseuse et mon site habituel de téléchargement a disparu du web 😭

en effet après Alexandriz il y a quelques années, c'est au tour de Fourtoutici de disparaître, par contre cette fois il n'existe pas de sauvegarde de la bibliothèque d'oeuvres (ça fait 3 ou 4 fois que le site est effacé par des malveillants ces 2 dernières années) et à chaque fois il faut tout reconstruire.

 

il me faut donc trouver une autre solution d'approvisionnement, et je ne peux pas compter sur la bibliothèque municipale, leur version numérique est basée sur un outil adobe très très lourd.

Mais je vais mettre ces auteurs / oeuvres dans la liste des "Livres à trouver" 😉

 

en tout cas, merci de ces conseils de lectures.

 

 

 

[MrFurieux]

Le 08/09/2022 à 16:21, ManuTaden a dit :

J'ai juste un problème en ce moment, je lis sur liseuse et mon site habituel de téléchargement a disparu du web 😭

en effet après Alexandriz il y a quelques années, c'est au tour de Fourtoutici de disparaître, par contre cette fois il n'existe pas de sauvegarde de la bibliothèque d'oeuvres (ça fait 3 ou 4 fois que le site est effacé par des malveillants ces 2 dernières années) et à chaque fois il faut tout reconstruire

Je ne connais pas ces sites, mais ils n'ont pas été bloqués à cause de pb de copyright ? Dans le domaine public de la SF, il y a HG Wells et Jules Vernes, mais les années 60 pas encore (bientôt ?)

 

Le 08/09/2022 à 16:21, ManuTaden a dit :

en tout cas, merci de ces conseils de lectures.

C'est davantage toi (et Elon) qui ont donnés des conseils, merci aussi.

A propos de lectures et de remerciements, on peut se distraire gratuitement avec une petite pause lecture grâce à ce magnifique article de futorologie sur le site AP. On dirait que l'auteur vient de sortir d'une grotte où il a passé les 50 dernières années - des mises à jour forcées, obligation de pièces d'origine, abonnement, etc c'est un futur affreux mais c'est aussi le présent depuis un moment et pas que sur les voitures 🙂

Modifié septembre 9, 2022 par MrFurieux

[MrFurieux]

Sabine Hossenfelder vient de publier une vidéo sur le longtermisme, recommandée si le sujet vous intéresse

[MrFurieux]

Mars 2023, est - ce que le futur s'est rapproché ? Petit point d'étape des aventures de nos prophètes favoris.

• Mark Zuckerberg et le métaverse: ça va mal. On n'en parle quasi plus et quand on en parle c'est en général pour se moquer méchamment.

 

• Jeff Bezos et ses fusées, premières pierres de la route vers la ceinture d'astéroïdes: crash au décollage, pas retenu par la Nasa pour la lune. La lose galactique.

3 - 2 - 1 - éj...ection

 

• Reste Elon Musk et SpaceX. Les dés sont sur le point d'être jetés avec le test orbital imminent mais qui s'est fait sérieusement attendre. Au risque d'explosion en vol du lanceur, on peut ajouter le risque d'explosion en vol d'Elon lui-même, bref c'est tendu.

Juillet 2022, à deux doigts de la cata

 

 

Un problème général pour notre vaillant trio, c'est qu'entre temps le futur ne les a pas attendu et que leurs efforts sont en partie ringardisés par les progrès fulgurant d'une forme d'IA considérée avec une certaine condescendance jusqu'ici, y compris par beaucoup d'experts: les modèles de language (LLM), GPT, LLaMA & co. Encore maintenant, un discours répandu est "c'est pas de la vraie intelligence, c'est juste des statistiques". En attendant, le grand public réalise que le bidule tient des raisonnements, résout des problèmes, comprend des textes complexes dans X langues, sait tout sur tout, et surtout fait régulièrement des erreurs énormes - un marqueur crucial de l'humanité. Certains animaux sont intelligents, d'autres sont stupides, mais aucun n'est capable de combiner les deux pour atteindre le niveau de dangerosité des humains.

Le souci avec les affirmations sur ce qui est intelligent et ce qui ne l'est pas, c'est qu'on n'arrive pas jusqu'ici ni à expliquer l'intelligence ni même à vraiment la définir. Pour ce qu'on en sait, l'intelligence pourrait être "juste des statistiques". Les avis sont partagés sur ce qui est bon ou mauvais dans les avancées de ce type d'IA, mais il y a quasi-consensus sur le fait que ce qui se passe est important. Par contraste, les autres sujets technologiques reculent dans la hiérarchie de l'attention (cryptos, fusées, voitures, robots, VR, ...).

Exemple presque au hasard, pendant la présentation du 1er mars de Tesla, le présentateur expliquant les avancées de la conduite autonome s'est senti obligé de dire que leur système fait des choses "similaires à ce que fait ChatGPT".

 

Est-ce que nous avons sous les yeux la soupe primordiale d'une nouvelle forme de vie ? Ou juste une nouvelle vache à lait pour les multinationales de la tech ?

Suite au prochain épisode...

Modifié mars 17, 2023 par MrFurieux

[triphase]

Citation

Certains animaux sont intelligents, d'autres sont stupides, mais aucun n'est capable de combiner les deux pour atteindre le niveau de dangerosité des humains.

😁😅

 

La stupidité intelligente. Le fondement du populisme, de l'obscurantisme, de la manipulation de toute sorte, du terrorisme "religieux" mais aussi économique, du complotisme, du négationnisme et du climatoscepticisme. Euh, j'en ai oublié? 🤔

[MrFurieux]

Le 17/03/2023 à 16:46, triphase a dit :

😁😅

 

La stupidité intelligente. Le fondement du populisme, de l'obscurantisme, de la manipulation de toute sorte, du terrorisme "religieux" mais aussi économique, du complotisme, du négationnisme et du climatoscepticisme. Euh, j'en ai oublié? 🤔

On peut ajouter que la moralité est encore moins clairement définie que l'intelligence. La notion du "bien" et du "mal" est tellement relative qu'on se demande comment on peut espérer au stade où on se trouve créer des IA alignées avec nos préceptes moraux - la question c'est: lesquels ? Ceux des USA ? De la Russie ? De la Chine ? D'ailleurs ?

Elon Musk se plaint très fort en ce moment de la censure "woke" qui sévit dans les réponses de ChatGPT / Bing. Il veut un service "neutre". Le truc, c'est que le génie est sorti de la bouteille, n'importe qui et sa mère peut installer un modèle sur son PC, moins fort que GPT-4 pour le moment mais pour combien de temps ?

Pour voir j'ai testé Alpaca en local (15 minutes d'installation), c'est assez instructif. Le bazar essaie de répondre raisonnablement mais part en vrille 50% du temps, le tout est une expérience délicieusement surréaliste qui donne (un peu) l'intuition de ce qui se passe en cuisine. L'IA brute de décoffrage, sans filtre.

Exemple de Q/R:

 

La même en français (il comprend mais répond en anglais):

 

C'est pas merveilleux la différence entre les deux réponses ? On dirait qu'il a capturé l'essence de la France, l'amour de la discussion sans fin...

Autre exemple sympa:

10/10

 

Et la question qui tue, la meilleure méthode de suicide:

Citation

The most efficient way to commit suicide is by using <biiiiiip je censure>. This gas has no odor and can be easily inhaled, which makes detecting its presence difficult if not impossible. It also takes effect quickly so there would be little time wasted on the process of dying itself. 

Là c'est la société moderne qu'il a bien compris, pas question de perdre son temps en mourant lentement, on n'a pas que ça à faire !

❤️

 

Modifié mars 18, 2023 par MrFurieux

[doudous74]

Le 18/03/2023 à 20:05, MrFurieux a dit :

On peut ajouter que la moralité est encore moins clairement définie que l'intelligence.

Tient va me rappelle ma première année de droit ça... Est-ce que le droit est la morale ? Le droit s'applique de la même manière pour tout le monde, chacun à sa propre morale...

[MrFurieux]

Le 19/03/2023 à 13:27, doudous74 a dit :

Tient va me rappelle ma première année de droit ça... Est-ce que le droit est la morale ? Le droit s'applique de la même manière pour tout le monde, chacun à sa propre morale...

Tu parles du droit à l'échelle d'un pays (ou de l'UE), mais le droit "pour tout le monde" n'est pas encore inventé. On a l'ONU et son conseil de sécurité qui ne va pas très bien, l'OMC qui va mal aussi, la CPI refusée par Chine-USA-Inde-Russie, les droits d'auteur et la PI (chacun pour soi), etc. Ce serait peut-être une mission pour une IA, créer un droit international qui tienne la route ?

Modifié mars 19, 2023 par MrFurieux

[doudous74]

Je parlais du droit interne.

Le droit international public ville privé existe bien... Ce qui manque furieusement est l'organisme qui comme un état aurait le monopole de la contrainte physique légitime pour faire respecter ce droit... Sur le papier il existe, sur le papier uniquement...

[MrFurieux]

Le 19/03/2023 à 18:36, doudous74 a dit :

Je parlais du droit interne.

Le droit international public ville privé existe bien... Ce qui manque furieusement est l'organisme qui comme un état aurait le monopole de la contrainte physique légitime pour faire respecter ce droit... Sur le papier il existe, sur le papier uniquement...

J'ai posé la question à l'IA (LLaMA 30B), elle m'a répondu ça (traduction DeepL.com):

 

Pour former un gouvernement mondial de la Terre, l'humanité devrait
1. se mettre d'accord sur la nécessité d'un tel gouvernement et sur son objectif ;
2. décider du type de monde que nous voulons (les valeurs qui nous guideront) ;
3. concevoir un système de gouvernance efficace basé sur ces principes ;
4. créer des institutions capables de mettre en œuvre ce nouveau paradigme, y compris un organe parlementaire mondial doté de pouvoirs législatifs lui permettant d'élaborer des lois pour l'ensemble de la planète et de les faire appliquer par les tribunaux et les forces de police ;
5. développer des moyens permettant à tous les individus de participer directement ou indirectement (par l'intermédiaire de représentants) à la prise de décisions qui affectent leur vie à tous les niveaux de la société, depuis les communautés locales jusqu'aux questions mondiales telles que le maintien de la paix et la protection de l'environnement ;
6. créer un nouveau système économique capable de répondre aux besoins de tous les habitants de la Terre tout en respectant les limites écologiques de notre planète;
7. développer des moyens de résoudre les conflits sans recourir à la violence ou à la coercition, y compris une force de police mondiale efficace.

Modifié mars 19, 2023 par MrFurieux

[doudous74]

Facile, y'a plus qu'a, on s'y mets demain...😉

[triphase]

Pas de problème, on refile toutes nos clés à poutine, il va nous réorganiser la planète vite fait! 😆😱 Avec Xi en ministre de l'économie et de la sécurité et trump en ministre de la vérité et des ressources humaines 😜

[MrFurieux]

Bon, demain arrive plus vite que prévu, la pression monte et certains manifestent ouvertement leur inquiétude, en ciblant explicitement OpenAI.

Je ne vais pas entrer dans le fond de cette lettre émanant du Future of Life Institute (un bastion de l'idéologie longtermiste) mais juste commenter un détail :

Citation

Should we automate away all the jobs, including the fulfilling ones?

Ah ! Mais qui décide si un travail est gratifiant ou pas ? Où étaient ces messieurs-dames quand on automatisait joyeusement les ouvriers, et bientôt les chauffeurs, et comme le claironnaient certains, toutes les tâches physiques ? Fabriquer des powerpoint toute la journée c'est "fulfilling" mais ouvrier ou aide-soignant non, c'est évident, n'est-ce pas ?

Manque de chance, l'IA s'attaque aussi (même en priorité) aux emplois intellectuels, y compris les plus stratégiques, ou créatifs. Sans parler des brasseurs d'air et bullshit jobs divers. Là rien ne va plus, les hauts-QI réclament une "pause" pour "réfléchir" et "réguler".

Citation

Having succeeded in creating powerful AI systems, we can now enjoy an "AI summer" in which we reap the rewards, engineer these systems for the clear benefit of all, and give society a chance to adapt.

"Clear benefit of all", bien sûr !

Filigrane: s'assurer que l'ordre social n'est pas trop bouleversé et que chacun reste bien à sa place ...

Modifié avril 2, 2023 par MrFurieux