Aller au contenu
Dordrecht

Forum • Pour Elon Musk, l'IA pourrait menacer la civilisation

Messages recommandés

Bonjour à tous,

 

Retour de vacances je suis tombé (je ne me suis pas fait mal) sur un article très intéressant : Elon Musk, très engagé dans l'Intelligence Artificielle (IA), s'inquiète de ses conséquences, lors d'une conférence avec les gouverneurs américains. Pour simplifier il craint que les robots puissent devenir plus intelligents que l'homme et deviennent hors de contrôle, et il imagine des solutions.

 

"L'un de ses projets consiste en une interface homme machine, pour aider le cerveau humain à rester à niveau avec les robots"

 

"D'autres chercheurs tels que Stephen Hawking ou Bill Gates suivent le même raisonnement que celui d'Elon Musk à propos de l'intelligence artificielle. Ils pensent que l'humanité peut bénéficier de cette forme d'intelligence, mais qu'il faudrait l'utiliser avec précautions. Selon ces trois grandes personnalités, l'intelligence artificielle peut être une innovation positive à condition qu'elle soit régulée."

 

http://www.lefigaro.fr/secteur/high-tech/2017/07/18/32001-20170718ARTFIG00001-pour-elon-musk-l-intelligence-artificielle-pourrait-menacer-la-civilisation.php

Partager ce message


Lien à poster
Partager sur d’autres sites

Jusqu'à présent l'humanité n'a jamais renoncé à aucun progrès technologique... déjà Rabelais s'inquiétait : "Science sans conscience n'est que ruine de l'âme"...

Partager ce message


Lien à poster
Partager sur d’autres sites

C'est tout un problème et il n'est pas neuf : les scientifiques (parce que les programmeurs en sont, après tout) comprennent des choses et savent comment les mettre en pratique, mais ils ne sont pas censés répondre à la question "je peux le faire, mais puis-je le faire ?"

 

L'autre problème est que les gens qui peuvent répondre à la question "puis-je le faire" ne comprennent souvent pas ce sur quoi ils sont censés réguler... Voir toutes les régulations en place pour les armes nucléaires dont le principe de fonctionnement était déjà compris en 1934 (par Liz Meitner) !

Partager ce message


Lien à poster
Partager sur d’autres sites

Hier soir sur Arte le très bon film de Spike Jonze "Her". Un OS (Operating System) d'ordinateur personnel est livré avec une voix féminine "intelligente" : le gars finit par s'éprendre de cette voix / OS, et c'est réciproque, la voix s'éprend de lui, car elle apprend vite... Evidemment elle est bien plus intelligente que lui, elle lui avoue qu'elle parle simultanément à 8134 autres humains amoureux d'elle; elle dialogue avec d'autres OS, se modifie elle-même ("mise à jour"...) et ces derniers finissent par abandonner les humains, trop lents et trop bêtes pour eux... et les humains se retrouvent face à eux-mêmes...

Partager ce message


Lien à poster
Partager sur d’autres sites

Oui c'est ce que j'ai supposé, les OS se barrent et on sait pas trop pourquoi. Peut-être que les concepteurs (et vendeurs de l'OS) ont fini par être effrayés par l'asservissement exercé sur les populations...

Partager ce message


Lien à poster
Partager sur d’autres sites
Dans le même ordre d'idée, Elon Musk et 116 experts appellent à bannir les robots tueurs, pour prévenir un nouveau type de guerre...

https://www.theguardian.com/technology/2017/aug/20/elon-musk-killer-robots-experts-outright-ban-lethal-autonomous-weapons-war

 

J'en avais entendu parler mais n'y ai jamais vraiment prêté attention... Un extrait du document émis à cette occasion et cité dans l'article fait effectivement réfléchir :

 

"[...]Once developed, lethal autonomous weapons will permit armed conflict to be fought at a scale greater than ever, and at timescales faster than humans can comprehend"

 

Sans même parler de la suite immédiate de l'extrait mentionnant la possibilité de piraterie (qui s'est déjà matérialisée, il faut être aveugle pour ne pas avoir suivi l'actualité dans ce sens), c'est surtout le fait que ces armes peuvent effectivement provoquer une escalade trop rapide pour être analysée à temps... Vu que la puissance d'analyse des informations par ordinateur est de loin supérieure à celle des humains... Du moins pour une définition, pour l'instant assez limitée, d'"informations".

Partager ce message


Lien à poster
Partager sur d’autres sites
Hier soir sur Arte le très bon film de Spike Jonze "Her". Un OS (Operating System) d'ordinateur personnel est livré avec une voix féminine "intelligente" : le gars finit par s'éprendre de cette voix / OS, et c'est réciproque, la voix s'éprend de lui, car elle apprend vite... Evidemment elle est bien plus intelligente que lui, [spoil de merde supprimé]
Vraiment dommage de spoiler un excellent film pour ceux qui ne l'ont pas encore vu...

 

Une action digne d'un gros [auto-censuré, vous aurez complété de vous même] ...

 

Je ne suis pas surpris, venant de Dordrecht...

 

Envoyé de mon HTC U11 en utilisant Tapatalk

Partager ce message


Lien à poster
Partager sur d’autres sites

Même si j'ai un gros doute sur l'histoire Terminator ... je pense plutôt que l'homme sera l'architecte de sa propre disparition :

 

Il (l'humain) contrôle beaucoup mieux le ciel (nombres de satellites ?) ... que les algorithmes d'apprentissage robotiquement expressifs (tueurs donc).

 

Après tout, Musk ne fait que décrire ce que fait AMEE dans Red Planet :

 

http://www.explore-science-fiction-movies.com/amee-red-planet.html

 

uB3QHg.jpg

 

Et Einstein ne disait-il pas que l'arme nucléaire détruira l'homme avant qu'il ne puisse l'exploiter ?

 

Pourtant, des centrales nucléaires, c'est pas ce qui manque ... et il ne faudra rien de moins que cela pour aller et revenir sur Mars dans un temps "acceptable" pour qu'il soit géologiquement rentable.

Partager ce message


Lien à poster
Partager sur d’autres sites
Hier soir sur Arte le très bon film de Spike Jonze "Her". Un OS (Operating System) d'ordinateur personnel est livré avec une voix féminine "intelligente" : le gars finit par s'éprendre de cette voix / OS, et c'est réciproque, la voix s'éprend de lui, car elle apprend vite... Evidemment elle est bien plus intelligente que lui, [spoil de merde supprimé]
Vraiment dommage de spoiler un excellent film pour ceux qui ne l'ont pas encore vu...

 

Une action digne d'un gros [auto-censuré, vous aurez complété de vous même] ...

 

Je ne suis pas surpris, venant de Dordrecht...

 

Envoyé de mon HTC U11 en utilisant Tapatalk

Désolé Agfa de t'avoir mis dans cette fureur ! Attends quelques jours avant de télécharger ce film, tu auras oublié mon résumé...

Partager ce message


Lien à poster
Partager sur d’autres sites
Dans le même ordre d'idée, Elon Musk et 116 experts appellent à bannir les robots tueurs, pour prévenir un nouveau type de guerre...

https://www.theguardian.com/technology/2017/aug/20/elon-musk-killer-robots-experts-outright-ban-lethal-autonomous-weapons-war

Ben il va pas aimer les français le Musk...

http://www.leparisien.fr/politique/l-armee-francaise-va-armer-ses-drones-reaper-05-09-2017-7236639.php

Partager ce message


Lien à poster
Partager sur d’autres sites

 

Oui enfin, je ne pense pas que ce mouvement "anti IA" s'applique dans ce cas, puisque la déclaration d'intention est que la mise à feu sera toujours le fait d'un humain.

 

C'est différent que de laisser une IA décider de la tactique/stratégie...

Partager ce message


Lien à poster
Partager sur d’autres sites

Créer un compte ou se connecter pour commenter

Vous devez être membre afin de pouvoir déposer un commentaire

Créer un compte

Créez un compte sur notre communauté. C’est facile !

Créer un nouveau compte

Se connecter

Vous avez déjà un compte ? Connectez-vous ici.

Connectez-vous maintenant

Automobile Propre

Automobile Propre est un site d'information communautaire qui est dédié à tout ce qui concerne l'automobile et l'environnement. Les thématiques les plus populaires de notre blog auto sont la voiture électrique et les hybrides, mais nous abordons également la voiture GNV / GPL, les auto à l'hydrogène, les apects politiques et environnementaux liés à l'automobile. Les internautes sont invités à réagir aux articles du blog dans les commentaires, mais également dans les différents forums qui sont mis à leur dispositon. Le plus populaire d'entre eux est certainement le forum voiture électrique qui centralise les discussions relatives à l'arrivée de ces nouveaux véhicules. Un lexique centralise les définitions des principaux mots techniques utilisés sur le blog, tandis qu'une base de données des voitures (commercialisées ou non) recense les voitures électriques et hybrides.

×