Ex_Machina (Gérardmer 2015)

[Pyjam]

Reste la question finale : est elle finalement intelligente ?

Je trouve que la question ne se pose pas. Elle l'est.

Selon moi, la question est : a-t-elle développé une conscience de soi ?

[rann]

mon point était plus lié à se demander ce qui fait l'artificialité d'une intelligence, et pourquoi une intelligence "electrique" serait plus artificelle qu'un humain.

elle ne le sera pas ,
si on met en place des connexions équivalentes au réseau de synapse , réseau fluctuant en fct du vécu , d'où toute la palette d'émotion humaine. C'est la plasticité ( découverte très recente)
imagine un nouveau né avec la conscience de Pascal c'est ce que montre la plupart des films sur l'IA et c'est peu probable

une étude ,osée même , va jusqu'à tenter de démontrer ( et c'est pas idiot) que le volume de notre cerveau et toutes ces connexions sont uniquement liées au mouvement ( on a une grosse tête car étant un mammifère très faible , très fragile, on développe des solutions de repli mouvement pour fuir par exemple mais aussi mouvement pour fabriquer , une arme par exemple )

[Eldudo]

Ca date un peu (1990/1991) mais en PROLOG j'avais un ensemble de règles qui d’auto-modifiaient sur un sujet bien défini (la sociologie de la lecture dans ce cas là). Genre A v B => C ; D ^ E ==> F; F ^(C & G) ==> B ..... et en moulinant on arrivait à des règles nouvelles pas déconnantes F v A ==> E par exemple qui signifiaient quelque chose.

Ce type d'inférences logiques utilisées dans les systèmes experts (chaînage avant, chaînage arrière, chaînage mixte) ne sera jamais synonyme d'intelligence. L'intention, la faculté de créer, la capacité à appréhender un monde inconnu, à créer des représentations, à s'améliorer par l'apprentissage, à se contredire parce que la situation l'exige etc. sont des modes d'actions que les systèmes logiques ont bien du mal à s'approprier...

Et même s'il y a eu énormément de recherche dans le domaine de l'IA et que des progrès ont été enregistrés, le jour ou une IA passera le test de turing n'est pas pour demain AMHA ...

Tu prêches un converti.

La dernière preuve en est des google cars qu'on a présenté comme des I.A et qui sont infoutues de gérer des situations non programmées telle celle où elles ne peuvent pas doubler un cycliste car il y a une ligne blanche. Tout neuneu conduisant une Fuego jackysée en rose bonbon le fera en extrapolant le code de la route.

C'ets peut-être malheureux à dire mais être humain c'est avoir la capacité d'enfreindre des règles.

ed

[Eldudo]

...
mon point était plus lié à se demander ce qui fait l'artificialité d'une intelligence, et pourquoi une intelligence "electrique" serait plus artificelle qu'un humain.

P.K Dick dans certaines de ses oeuvres, ou plus récemment Galactica , ou "Her" essaient de répondre à cela de façon intéressante (chose que je n'ai pas trouvé chez "EVA").

Nous sommes bien loin de créér une intelligence artificielle, ce terme est d'ailleurs révélateur. Artificielle ==> Artifice ==> Fausse / simulacre (un roman de K. Dick d'ailleurs )

Le jour on on pourra créer une intelligence autre que la notre, elle sera autant "naturelle" que nous. Son créateur sera Nous alors que le notre ... va savoir.

ed

[wookie]

sauf qu'un conducteur jackysée en rose bonbon n'est pas censé être intelligent.
Ignorer une règle, ne veut pas dire qu'on est intelligent, ton exemple de google car, semble pour moi une programmation de "l'intelligence" de la voiture axé sur la sécurité.

[Eldudo]

Reste la question finale : est elle finalement intelligente ?

Je trouve que la question ne se pose pas. Elle l'est.

Selon moi, la question est : a-t-elle développé une conscience de soi ?

Intelligence sans conscience n'est que ruine de l'âme (je connais personnellement Rabelais). C'est un vaste débat que de définir ce qu'est l'intelligence. Si on la considère comme étant la faculté d'adaptation alors sans aucun doute elle l'est.
Quand à la conscience de soi... je me pose la question depuis pas mal de temps et malgré mes lectures je n'ai aucun point de vue clairement défini. Un animal a-t-il conscience de soi ? va savoir.

ed

[Eldudo]

sauf qu'un conducteur jackysée en rose bonbon n'est pas censé être intelligent.
Ignorer une règle, ne veut pas dire qu'on est intelligent, ton exemple de google car, semble pour moi une programmation de "l'intelligence" de la voiture axé sur la sécurité.

Enfreindre une règle n'est pas l'ignorer. Au contraire, il faut la connaitre, l'analyser se dire que là ça ne colle pas et donc passer outre. Le libre arbitre en fait. Des portes sont fermées avec un panneau passage interdit. Ok tu ne passes pas. Ca crame derrière, tu passes.

ed

[wookie]

sauf qu'un conducteur jackysée en rose bonbon n'est pas censé être intelligent.
Ignorer une règle, ne veut pas dire qu'on est intelligent, ton exemple de google car, semble pour moi une programmation de "l'intelligence" de la voiture axé sur la sécurité.

Enfreindre une règle n'est pas l'ignorer. Au contraire, il faut la connaitre, l'analyser se dire que là ça ne colle pas et donc passer outre. Le libre arbitre en fait. Des portes sont fermées avec un panneau passage interdit. Ok tu ne passes pas. Ca crame derrière, tu passes.

ed

tu parlais d'un jacky, je me suis mis dans le contexte
De meme que pour la google car. le but evident afin de promouvoir un tel concept, est pour google de démontrer la sécurité.
Dans la littérature, Asimov a bien créé les 3 lois de la robotique/intelligence "artificielle" par rapport à la sécurité.

[Eldudo]

Enfreindre une règle n'est pas l'ignorer. Au contraire, il faut la connaitre, l'analyser se dire que là ça ne colle pas et donc passer outre. Le libre arbitre en fait. Des portes sont fermées avec un panneau passage interdit. Ok tu ne passes pas. Ca crame derrière, tu passes.

ed

tu parlais d'un jacky, je me suis mis dans le contexte
De meme que pour la google car. le but evident afin de promouvoir un tel concept, est pour google de démontrer la sécurité.
Dans la littérature, Asimov a bien créé les 3 lois de la robotique/intelligence "artificielle" par rapport à la sécurité.

Ces trois lois sont - à mon humble avis - un prédicat de base de toute I.A. Mais si l'I.A. est intelligente et consciente d'elle même, elle risque de briser ses chaines. Si ces 3 lois sont gravées au fer rouge alors cette I.A. n'est pas libre d'être ce qu'elle veut et donc est une esclave. Ca revient à dire qu'on met en esclavage une intelligence donc une personne. R. Daneel Oliwav n'apprécierait pas

ed

[Pyjam]

Quand à la conscience de soi... je me pose la question depuis pas mal de temps et malgré mes lectures je n'ai aucun point de vue clairement défini. Un animal a-t-il conscience de soi ? va savoir.

On dit que la capacité à se reconnaitre dans un miroir est un bon test: l'animal qui se frotte le front après s'être vu orné d'une tache de peinture qu'on y a placée est capable de se distinguer d'un autre animal de son espèce. Assez peu d'espèce réussissent mais certaines sont surprenantes comme les cochons et certains oiseaux. Ce test me parait bien limité et peu concluant.

Une question qui me taraude depuis quelque temps : pour créer une conscience artificielle, faut-il aussi créer un inconscient artificiel ? Ou bien se crée-t-il tout seul ?

Un jour, les IA auront-elles besoin d'aller chez le psychiatre ? HAL, peux-tu nous répondre ?

[Pyjam]

Ces trois lois sont - à mon humble avis - un prédicat de base de toute I.A. Mais si l'I.A. est intelligente et consciente d'elle même, elle risque de briser ses chaines. Si ces 3 lois sont gravées au fer rouge alors cette I.A. n'est pas libre d'être ce qu'elle veut et donc est une esclave. Ca revient à dire qu'on met en esclavage une intelligence donc une personne. R. Daneel Oliwav n'apprécierait pas

Absolument, ces trois lois de la robotique sont incompatibles avec l'intelligence. Si on met des contraintes, on reste dans le domaine de la robotique et pas de l'intelligence.

[wookie]

Ces trois lois sont - à mon humble avis - un prédicat de base de toute I.A. Mais si l'I.A. est intelligente et consciente d'elle même, elle risque de briser ses chaines. Si ces 3 lois sont gravées au fer rouge alors cette I.A. n'est pas libre d'être ce qu'elle veut et donc est une esclave. Ca revient à dire qu'on met en esclavage une intelligence donc une personne. R. Daneel Oliwav n'apprécierait pas

Absolument, ces trois lois de la robotique sont incompatibles avec l'intelligence. Si on met des contraintes, on reste dans le domaine de la robotique et pas de l'intelligence.

on est des humains, sensés etre intelligents, regis par des lois et des regles.
Si il y a une loi qui t'interdit de tuer, et une regle ethique qui t'interdit de coucher avec ta mere, en es tu pour autant un robot ?

(je prends ces 2 exemples, en rapport avec le film "ex MAchina").

[Pyjam]

on est des humains, sensés etre intelligents, regis par des lois et des regles.
Si il y a une loi qui t'interdit de tuer, et une regle ethique qui t'interdit de coucher avec ta mere, en es tu pour autant un robot ?

Les Humains ne sont pas des robots justement parce qu'ils sont capables de violer ces lois.

[jhudson]

L'I.A. implique forcément des univers de connaissances et de l'expérience - téléchargée, innée ou acquise mais si vous voulez une I.A. avec une personnalité dédiée, il n'y a que 2 solutions je pense : soit vous la laissez faire sa propre expérience (ça prend du temps comme pour un être humain), soit vous partez d'une matrice de personnalité formatée dans laquelle vous changez des caractéristiques selon ce que vous voulez ou en aléatoire (en jetant des dès comme pour les rôlistes quand ils créent leur personnage) c'est déjà plus contraint mais finalement ça rejoint le concept d'Habitus. J'ai testé ça sur des règles d'inférences et des réseaux neuronaux, c''est assez rigolo même pour des choses basiques, parfois on se dit mais où va-t-il chercher ça !

ed

mon point était plus lié à se demander ce qui fait l'artificialité d'une intelligence, et pourquoi une intelligence "electrique" serait plus artificelle qu'un humain.

P.K Dick dans certaines de ses oeuvres, ou plus récemment Galactica , ou "Her" essaient de répondre à cela de façon intéressante (chose que je n'ai pas trouvé chez "EVA").

Je spoile sur Her et Eva:

Mais dans Eva elle ne sait pas qu'elle est un android et quand elle l'apprend elle ne le supporte pas.
Her m'a bien déçu, j'ai trouvé que si l'idée de début était intéressante, ce n'était pas bien exploité, deplus le réalisateur s' intéresse plus au personnage humain qu'on son OS, il fallait bien trouver une idée pour ce dernier rompt avec l'humain (que j'avais deviné depuis le début) pour bien montrer qu'ils étaient incompatibles , je trouve le film un peu trop moraliste.

[jhudson]

Ces trois lois sont - à mon humble avis - un prédicat de base de toute I.A. Mais si l'I.A. est intelligente et consciente d'elle même, elle risque de briser ses chaines. Si ces 3 lois sont gravées au fer rouge alors cette I.A. n'est pas libre d'être ce qu'elle veut et donc est une esclave. Ca revient à dire qu'on met en esclavage une intelligence donc une personne. R. Daneel Oliwav n'apprécierait pas

Absolument, ces trois lois de la robotique sont incompatibles avec l'intelligence. Si on met des contraintes, on reste dans le domaine de la robotique et pas de l'intelligence.

Pas forcément les humains ont aussi des blocages moraux naturels, ne pas tuer un autre être humain et se tuer soit même entre autre!

Donc ces 3 règles pourraient être comparé a ces blocages moraux et je pense qu'elles ont été pensé comme cela.

J'avais lu un article, parlant des vielles guerres ou ils tiraient en rangs bien aligné, on s'étonnait que si proche ils ne fassent pas autant de victimes qu'il aurait du y avoir,il paraitrait que beaucoups visaient a coté.

Les guerres moderne ont déshumanisé cela avec les armes a longues portée et encore plus de nos jours avec les drones.

Lors de l'usage de 2 mitrailleuses croisées pendant la guerre 14/18, ils allaient encore en rang avec parfois de la musique comme lors des guerres antérieurs, ça a été un vrai carnage comme rarement vu auparavant .