Encyclopédie du paranormal - Forum :: Consulter le sujet

Les robots vont-ils prendre le pouvoir?

28/07/2009 10:54

Les machines vont-elles être plus intelligentes que les hommes? Des scientifiques se demandent s'il n'est pas temps d'imposer des limites à leurs propres recherches sur l'intelligence artificielle. Explications.

Des machines vont-elles dans un futur proche échapper au contrôle de l'homme et devenir totalement autonomes? Cette vieille lune chère aux auteurs de science fiction (les robots prenant le pouvoir) ne parait plus totalement impensable aux scientifiques.

En février dernier, un groupe de spécialistes de l'intelligence artificielle et de la robotique s'est réuni dans le plus grand secret à Asilomar, une petite ville de Californie, pour discuter des risques de dérives incontrôlables liés aux avancées fulgurantes réalisées ces dernières années par la recherche dans leur domaine. Alors que la puissance des microprocesseurs double tous les deux ans depuis leur invention, alors qu'apparaissent des logiciels capables de mener de véritables conversations et des virus informatiques de plus en plus difficiles à exterminer, alors que les militaires mettent au point des drones et des machines capables de tuer de façon autonome, certains scientifiques se demandent s'il n'est pas temps d'imposer des limites à leurs propres recherches.

"Explosion de l'intelligence"

Organisé par l'Association for the advancement of artificial intelligence à l'initiative d'Eric Horvitz, directeur du laboratoire de recherche de Microsoft, cette réunion à huis-clos n'a été rendue publique que la semaine dernière. "Quelque chose de totalement nouveau est apparu durant ces cinq dernières années", explique Horvitz. "La technologie remplace la religion". Certains scientifiques annoncent désormais l'avènement de "l'explosion de l'intelligence", une théorie avancée dans les années 1960 par le mathématicien Irvin Good dans laquelle des machines intelligentes deviennent capables de fabriquer d'autres machines encore plus intelligentes.

Personne pour l'instant, mis à part les participants, ne connait exactement la teneur des conversations qui ont eu lieu à Asilomar (où des biologistes se sont réunis en 1974 pour discuter des dangers potentiels du génie génétique). Mais un rapport publié d'ici la fin de l'année devrait en donner les grandes lignes, intitulé "la perte du contrôle humain sur des intelligences informatiques".

A ceux qui objectent qu'il sera toujours possible de débrancher les machines, signalons qu'un robot construit par une firme californienne, Willow Garage, est non seulement capable de se mouvoir dans n'importe quel environnement, mais aussi de trouver et de se connecter lui-même sur une prise de courant...

Gilbert Charles

Auteur:	Paul Binocle [ 28 Juillet 2009, 10:20 ]
Sujet du message:	Des robots trop intelligents ?
Même s'ils ne mangent pas les cadavres, les robots commencent apparemment à inquiéter sérieusement certaines personnes : Citer: Les robots vont-ils prendre le pouvoir? 28/07/2009 10:54 Les machines vont-elles être plus intelligentes que les hommes? Des scientifiques se demandent s'il n'est pas temps d'imposer des limites à leurs propres recherches sur l'intelligence artificielle. Explications. Des machines vont-elles dans un futur proche échapper au contrôle de l'homme et devenir totalement autonomes? Cette vieille lune chère aux auteurs de science fiction (les robots prenant le pouvoir) ne parait plus totalement impensable aux scientifiques. En février dernier, un groupe de spécialistes de l'intelligence artificielle et de la robotique s'est réuni dans le plus grand secret à Asilomar, une petite ville de Californie, pour discuter des risques de dérives incontrôlables liés aux avancées fulgurantes réalisées ces dernières années par la recherche dans leur domaine. Alors que la puissance des microprocesseurs double tous les deux ans depuis leur invention, alors qu'apparaissent des logiciels capables de mener de véritables conversations et des virus informatiques de plus en plus difficiles à exterminer, alors que les militaires mettent au point des drones et des machines capables de tuer de façon autonome, certains scientifiques se demandent s'il n'est pas temps d'imposer des limites à leurs propres recherches. "Explosion de l'intelligence" Organisé par l'Association for the advancement of artificial intelligence à l'initiative d'Eric Horvitz, directeur du laboratoire de recherche de Microsoft, cette réunion à huis-clos n'a été rendue publique que la semaine dernière. "Quelque chose de totalement nouveau est apparu durant ces cinq dernières années", explique Horvitz. "La technologie remplace la religion". Certains scientifiques annoncent désormais l'avènement de "l'explosion de l'intelligence", une théorie avancée dans les années 1960 par le mathématicien Irvin Good dans laquelle des machines intelligentes deviennent capables de fabriquer d'autres machines encore plus intelligentes. Personne pour l'instant, mis à part les participants, ne connait exactement la teneur des conversations qui ont eu lieu à Asilomar (où des biologistes se sont réunis en 1974 pour discuter des dangers potentiels du génie génétique). Mais un rapport publié d'ici la fin de l'année devrait en donner les grandes lignes, intitulé "la perte du contrôle humain sur des intelligences informatiques". A ceux qui objectent qu'il sera toujours possible de débrancher les machines, signalons qu'un robot construit par une firme californienne, Willow Garage, est non seulement capable de se mouvoir dans n'importe quel environnement, mais aussi de trouver et de se connecter lui-même sur une prise de courant... Gilbert Charles Source : LeVif.be Où est Isaac Asimov quand on a besoin de lui ? Qu'en dites-vous ? Faudrait-il imposer des limitations à l'intelligence de nos machines ?

Auteur:	Herr Magog [ 28 Juillet 2009, 10:25 ]
Sujet du message:	Re: Des robots trop intelligents ?
Oui. Mais bon, je ne suis peut-être pas tout-à-fait objectif, étant donné que j'ai vu Terminator dernièrement. Mais après tout, une machine reste une machine, non ? Est-ce qu'une machine peut penser par elle-même sans que l'on puisse la programmer ?

Auteur:	Chimère [ 28 Juillet 2009, 10:37 ]
Sujet du message:	Re: Des robots trop intelligents ?
Je ne suis pas spécialiste, mais il me semblait avoir lu un article selon lequel on avait "programmé" un ordinateur à acquérir des connaissances par lui-même. Un autre article rapportait une expérience ( du MIT, mais je ne suis pas sûre ) selon laquelle 2 ordinateurs qui avaient été programmer pour converser entre eux avaient fini par développer leur propre langage, auquel leur programmateur ne comprenait plus rien. Rien ne dit qu'il est définitivement impossible de programmer un robot ou un ordinateur à penser par lui-même. Ce genre d'expérience est totalement fascinante, mais avant d'avoir toutes les cartes en main pour "sécuriser" les machines, on devrait s'arranger pour les rendre inoffensives.

Auteur:	Paul Binocle [ 28 Juillet 2009, 10:48 ]
Sujet du message:	Re: Des robots trop intelligents ?
Herr Magog a écrit: Mais après tout, une machine reste une machine, non ? Est-ce qu'une machine peut penser par elle-même sans que l'on puisse la programmer ? Nous sommes encore loin de la création de machines "conscientes" ou capables d'apprendre significativement et de s'auto-améliorer, mais cela ne veut pas dire que cela soit infaisable. Ne sommes-nous pas nous-mêmes des machines biologiques ? Je ne vois pas de raison de douter que des créations artificielles, surtout si elles imitent le fonctionnement du cerveau humain comme le projet Blue Brain, puissent un jour accomplir les mêmes choses que notre cerveau - et même plus. L'article fait allusion à l'idée de « singularité technologique » imaginée par Irving Good, l'idée étant que les progrès techniques se font de plus en plus rapidement et s'achèveront par la création d'une machine suffisamment intelligente pour se rendre elle-même plus intelligente, ce qui mènera à une "explosion d'intelligence" (notez qu'il voyait ça comme quelque chose de plutôt positif et pas dans une optique "les machines vont être plus malines que nous et vont tous nous massacrer" appréciée par les médias et les mauvais auteurs de SF ). Je peux personnellement comprendre que des gens soient préoccupés, à l'heure où on crée des machines "intelligentes" conçues pour la guerre ou des machines capables de s'auto-alimenter. Je ne crains pas que les machines actuelles décident de se "retourner contre nous" (:roll:), mais je trouve malgré tout dangereux de créer des robots dont la fonction est de tuer des êtres humains et de leur donner trop d'autonomie. Il finira par y avoir des accidents.

Auteur:	Nazca [ 28 Juillet 2009, 15:01 ]
Sujet du message:	Re: Des robots trop intelligents ?
Il faudrait déjà qu'elles arrivent à s'auto-alimenter pour pouvoir être dangereuses... on est encore loin de tout ca... Un drône qui devient fou peut faire des dégats mais il tombera forcément en panne sans alimentation, et pour l'instant, il n'y a que nous pour les raccorder à la prise électrique.

Encyclopédie du paranormal - Forum http://paranormal-encyclopedie.com/forum/

Des robots trop intelligents ? http://paranormal-encyclopedie.com/forum/viewtopic.php?f=27&t=329	Page 1 sur 2

Auteur:	Paul Binocle [ 28 Juillet 2009, 15:07 ]
Sujet du message:	Re: Des robots trop intelligents ?
...sauf celui susceptible de "manger des cadavres" (:P) cité dans un autre sujet et celui mentionné dans l'article : Citer: A ceux qui objectent qu'il sera toujours possible de débrancher les machines, signalons qu'un robot construit par une firme californienne, Willow Garage, est non seulement capable de se mouvoir dans n'importe quel environnement, mais aussi de trouver et de se connecter lui-même sur une prise de courant... On dirait que nous avons déjà à notre disposition les moyens technologiques nécessaires pour faire un robot-tueur-nécrophage.

Auteur:	Nazca [ 28 Juillet 2009, 15:16 ]
Sujet du message:	Re: Des robots trop intelligents ?
On lui enverra Chuck au pire... Les robots autonomes existeront très certainement dans un lointain futur ( surtout le temps que la population les fassent entrer peu à peu dans leur quotidien ). Pour le robot "nécrophage" on a une idée de son apparence ? ( sûrement du type des drones de reconnaissance lors des interventions risquées ) En tout cas, je vois mal un robot de type humanoïde ( à part pour servir de mûle comme le Big Dog ) être utilisé en combat. Plus c'est plat, mieux c'est dans l'armée. ( Petit rappel du Big Dog : http://www.youtube.com/watch?v=cHJJQ0zNNOM http://www.youtube.com/watch?v=b2bExqhhWRI )

Auteur:	Napoléon [ 28 Juillet 2009, 21:19 ]
Sujet du message:	Re: Des robots trop intelligents ?
Si des robots tueurs devaient arriver, d'une technologie Terminatorienne, c'est encore dans quelques temps. La guerre a changée, il s'agit pour les pays occidentaux de débusquer des terroristes, d'éviter les pertes humaines. Du coup les robots sont encore sommaires, avec leur petit Minigun de rien du tout. Et très dépendant de l'homme. Pour l'instant. Et je pense qu'aucun chef militaire ne permettra qu'un de ces tas de ferrailles soient doter d'une quelconque intelligence artificiel, pour garder un contrôle sur ce troupes d'un genre nouveau.

Auteur:	Chimère [ 28 Juillet 2009, 21:32 ]
Sujet du message:	Re: Des robots trop intelligents ?
Chaque fois qu'on parle d'intelligence artificielle et de robots, je pense à L'Ange Gabriel de Bernard Lenteric... je l'ai lu il y a très très longtemps, mais je m'en rappelle encore... Il y a beaucoup de choses qui m'ont marquée dans ce roman. C'est pas très long, c'est donc idéal pour les vacances. http://www.alapage.com/-/Fiche/Livres/9782253150251/LIV/l-ange-gabriel-bernard-lenteric.htm?donnee_appel=GOOGL

Auteur:	aigledusud [ 29 Juillet 2009, 07:31 ]
Sujet du message:	Re: Des robots trop intelligents ?
De toute façon une machine doit faire ce qu'on lui dit c'est comme ça. Si par la suite des robots deviennent autonome c'est parce qu'on lui a donné les moyens (énergie solaire etc..) ou s'ils deviennent trop intelligents c'est qu'on leurs à doté de suffisamment de technologies pour l'être. Certains hommes sont tellement peut scrupuleux que je ne doute pas pour ma part qu'on y arrivera un jour. Maintenant une intelligence cybernétique à la Terminator n'est pas pour demain, on a déjà du mal avec Asimo qui est pourtant la forme humaine de robot la plus avancés au monde : http://www.vincentabry.com/inside-honda-asimo-2009-3940 Paul Binocle a écrit: En février dernier, un groupe de spécialistes de l'intelligence artificielle et de la robotique s'est réuni dans le plus grand secret à Asilomar, une petite ville de Californie, pour discuter des risques de dérives incontrôlables liés aux avancées fulgurantes réalisées ces dernières années par la recherche dans leur domaine. J'aime bien cette phrase, si c'est si secret que cela comment cet article est tombé sur un forum qui démarre à peine ?

Page 1 sur 2	Le fuseau horaire est réglé sur UTC+1 heure
Powered by phpBB® Forum Software © phpBB Group https://www.phpbb.com/