RFIA logo

Agents Autonomes et Ethique



24 janvier 2012 - Lyon
http://d2a2.emse.fr/agents-autonomes-ethique-rfia/

Dans le cadre de la conférence RFIA 2012
24-27 janvier 2012 à Lyon
RFIA 2012


"Agents Autonomes et éthique" est associé à la conférence RFIA 2012.

L'autonomie de décision et d'action d'agents logiciels, humains ou robotiques est une propriété fondamentale des problématiques informatiques actuelles. On en trouve différentes définitions que ce soit dans le domaine des systèmes multiagents, des systèmes de robots ou des interactions personnes-systèmes. Elle est devenue une caractéristique essentielle dans de nombreuses applications telles que le commerce électronique, les jeux interactifs, l'intelligence ambiante, l'assistance aux personnes, la robotique sociale ou collective, les systèmes de véhicules sans pilote.

Bien que recherchée et préservée, l'autonomie est souvent accompagnée de mécanismes de régulation et de contrôle qui visent à assurer la cohérence du fonctionnement global du ou des agents au sein du système ainsi que de l'ensemble formé par les agents et leurs utilisateurs ou opérateurs dans le cas de systèmes hybrides mêlant agents logiciels/robotiques et humains.

La question d'une régulation ou d'un contrôle éthique des agents se pose actuellement de manière prégnante. On peut constater d'ailleurs un nombre croissant d'articles publiés dans la presse sur le sujet.

L'atelier est organisé autour de conférences invitées :

L'atelier se terminera par une discussion d'ensemble (table ronde) impliquant les 6 invités ci-dessus et Yves Demazeau (LIG-CNRS)

Tout chercheur qui se pose la question de l'éthique dans ses travaux relatifs aux agents autonomes, tout philosophe ou juriste spécialisé dans les questions informatiques, tout utilisateur d'outils fondés sur l'autonomie d'agents et souhaitant intervenir dans cet atelier est invité à se manifester au plus vite auprès des organisateurs de l'atelier.

Un compte rendu de l'atelier sera publié et diffusé en particulier aux GDR concernés.

Titres, résumés des interventions, présentations

Pour une éthique de la recherche en Sciences et Technologies de l'Information et de la Communication - Joseph Mariani (LIMSI-CNRS & IMMI)

Le Comité d'Ethique du CNRS (COMETS) s'est penché sur l'éthique des recherches en Sciences et Technologies de l'Information et de la Communication et a publié un avis en 2010. Ce rapport montre l'étendue des questions soulevées par les résultats des recherches conduites dans ce domaine. Il en ressort qu'il manque principalement une réflexion pluridisciplinaire sur les conséquences des recherches au moment où celles-ci sont menées, qui pourrait conduire à les orienter ou à les compléter. Une des recommandations du rapport est la mise en place d'une structure de réflexion nationale commune à l'ensemble des organismes de recherche travaillant dans ce secteur pour approfondir chacun des nombreux et importants dossiers qui ont pu être identifiés, dont l'un porte sur les robots et les agents autonomes.

Présentation

Robotique militaire et éthique - Thierry Pichevin (Ecoles de Saint-Cyr Coëtquidan)

Les applications militaires des robots se développent de plus en plus. Des robots sont utilisés régulièrement en opération, en particulier en Iraq et en Afghanistan. Cette communication fera un rapide panorama de l'état de l'art dans ce domaine, et évoquera les questions éthiques soulevées.

Perceptions de l'éthique : problématique et perspectives - Olivier Vasseur (ONERA)

L'analyse de codes éthiques ou de déontologie de différents domaines professionnels met en évidence une variabilité des principes éthiques retenus dans ces différents code de conduite. La diversité culturelle des acteurs génère également différentes appréciations de l'éthique. Les exemples de cette communication sur les perceptions de l'éthique serviront de base pour notre réflexion.

Juges-robots et autres machines à dire le droit: questions éthiques? - Danièle Bourcier (Directrice de recherche, Juriste et membre du comité d'Ethique des sciences CERSA-CNRS, Paris)

Les fonctions cognitives les plus nobles comme décider, juger, légiférer sont désormais assistées ou simulées par une machine dans le e-governement. Pourtant il y a plus de 30 ans déjà J. Weizenbaum avait annoncé que ces activités ne pourraient éthiquement faire l'objet d'une automatisation. Dans mon intervention j'examinerai pour la discussion trois types différents de questions:

A chaque fois, soit l'IA soit le droit tentent de répondre avec leurs dispositifs propres à ces impossibilités techniques ou morales. L'examen de diverses expériences et applications serviront de base à nos réflexions éthiques.

Représentation des systèmes éthiques à l'aide de raisonnements non monotones - J.G. Ganascia (LIP6-CNRS)

Imaginées dès les années quarante, les trois lois de la robotique d'Asimov sont censées régir le comportement des créatures artificielles afin qu'elles ne détruisent pas leurs créateurs. Aujourd'hui, la réalité rivalise avec les romans de science fiction d'antan : drones ou robots, des machines douées d'autonomies prennent d'elles-mêmes des décisions importantes et risquent de dévorer leurs maîtres. Plus que jamais, nous devons donc réfléchir à la façon de doter ces agents d'une régulation « éthique » qui nous assurerait de la conformité de leurs actions aux valeurs humaines. Or, les tentatives faites pour mettre en oeuvre les trois lois de la robotique d'Asimov sur des machines montrent qu'elles posent des problèmes techniques difficilement surmontables. Au cours de cet exposé, nous montrerons que la nature des difficultés rencontrées tient à la présence de dilemmes et, plus généralement, de conflits éthiques. Nous décrirons ensuite la façon dont les formalismes développés en intelligence artificielle pour modéliser les raisonnements de sens commun peuvent être mobilisés pour surmonter ces conflits éthiques. Nous verrons alors comment différentes approches classique de l'éthique, en particulier le conséquentialisme et le déontisme, peuvent être formalisées et opérationalisées.

Présentation

Protection de la vie privée : appréhension de concepts éthiques par un agent autonome Guillaume Piolle (SUPELEC)

Le respect de la vie privée, au travers de la protection des données personnelles, est un domaine du droit qui concerne directement l'informatique. Lorsque l'on conçoit des agents logiciels, capables de prise de décision autonome, qui ont la capacité ou même la mission de stocker, transmettre et d'une manière générale de manipuler des données à caractère personnel, il convient de s'assurer que le traitement de ces informations se fait en accord avec des règles éthiques de diverses natures, visant à protéger l'intimité des personnes concernées : textes législatifs et réglementaires, contrats, préférences des utilisateurs ... Une manière classique de permettre à un agent de manipuler ces concepts est de les représenter sous la forme d'un langage logique associé à des mécanismes de raisonnement adaptés. L'exemple très classique du choix de logiques déontiques (décrivant les notions d'obligation, d'interdiction, de permission) pour décrire des règles de protection des données personnelles permet d'avoir un aperçu des problèmes philosophiques et techniques que pose le besoin d'adaptation d'un agent autonome à un contexte normatif posant des règles morales sur son comportement.

Présentation

Programme

Public ciblé

Chercheurs, Doctorants, Industriels, 30 à 40 personnes

Calendrier

Inscription

http://rfia2012.liris.cnrs.fr/doku.php?id=pub:inscriptions

Responsables de l'atelier

Cet atelier est organisé en lien avec le groupe Droits et Devoirs d'Agents Autonomes (D2A2) du thème Systèmes Multi-Agents du GDR I3 et du collège SMA de l'AFIA.
L'atelier a reçu le soutien du GDR I3 GDR I3 logo

"Crédits graphiques : kdxk, collectif.kdxk@gmail.com"