Retour
 

Pour une intelligence artificielle maîtrisée, utile et démystifiée - Tome I : rapport

Auteur(s) :

    • FRANCE. Office parlementaire d'évaluation des choix scientifiques et technologiques; FRANCE. Sénat; FRANCE. Assemblée nationale

Editeur :

  • Sénat : Assemblée nationale

Collection : Les Rapports de l'OPECST

Date de remise : Mars 2017
4 pages

Pour lire les rapports au format PDF vous avez besoin d'un lecteur PDF.
Pour lire les rapports au format EPUB vous avez besoin d'un lecteur EPUB.

L'essor récent des technologies d'intelligence artificielle représente un bouleversement de nature à transformer profondément nos sociétés et nos économies mais reste soumis à une contrainte d'acceptabilité sociale assez forte sous l'effet de représentations souvent catastrophistes. Le concept d'intelligence artificielle renvoie à des technologies multiples, nées dans la seconde moitié du XXe siècle, qui reposent sur l'utilisation d'algorithmes. Ces technologies, dont les combinaisons sont en évolution constante, conduisent d'ores et déjà à des applications dans de nombreux secteurs et ouvrent un espace d'opportunités inédit, à même de révolutionner notre cadre de vie et l'aide aux personnes. Les progrès en intelligence artificielle posent plusieurs questions : quels sont les opportunités et les risques qui se dessinent ? La France et l'Europe sont-elles dans une position satisfaisante dans la course mondiale qui s'est engagée ? Quelles places respectives pour la recherche publique et la recherche privée ? Quelle coopération entre celles-ci ? Quelles priorités pour les investissements dans la recherche en intelligence artificielle ? Quels principes éthiques, juridiques et politiques doivent encadrer ces technologies ? La régulation doit-elle se placer au niveau national, européen ou international ? Pour contribuer à apporter des réponses à ces questions, l'OPECST a adopté à l'unanimité le 14 mars 2017 le présent rapport. Consultez les annexes du rapport à partir du lien suivant.

SYNTHÈSE DU RAPPORT

INTRODUCTION

PREMIÈRE PARTIE : ÉLÉMENTS DE CONTEXTE

I. LA DÉMARCHE DE VOS RAPPORTEURS

A. DE LA PROCÉDURE DE SAISINE À L’ADOPTION D’UN CALENDRIER DE TRAVAIL
1. L’origine et l’instruction de la saisine
2. Un calendrier de travail très resserré
B. LE CHAMP DES INVESTIGATIONS DE L’ÉTUDE
1. L’étude de faisabilité du rapport conclut à la pertinence d’une étude spécifique de l’OPECST
2. Un ciblage délibéré sur un nombre limité de problématiques et de pistes d’investigation
C. LA MÉTHODE DE TRAVAIL
1. Une méthode de travail fondée sur des auditions bilatérales et des déplacements en France et à l’étranger
2. L’organisation d’une journée d’auditions publiques au Sénat le 19 janvier 2017
3. La consultation d’ouvrages, de rapports et d’articles parus sur le sujet

II. L’HISTOIRE DES TECHNOLOGIES D’INTELLIGENCE ARTIFICIELLE ET DE LEURS USAGES

A. DES TECHNOLOGIES NÉES AU MILIEU DU XXE SIÈCLE
1. La préhistoire de l’intelligence artificielle et sa présence dans les œuvres de fiction
2. Les premières étapes de formation des technologies d’intelligence artificielle au XXe siècle, la notion d’algorithme et le débat sur la définition du concept d’intelligence artificielle
3. « L’âge d’or » des approches symboliques et des raisonnements logiques dans les années 1960 a été suivi d’un premier « hiver de l’intelligence artificielle » dans les années 1970
4. Un enthousiasme renouvelé dans les années 1980 autour des systèmes experts, de leurs usages et de l’ingénierie des connaissances précède un second « hiver de l’intelligence artificielle » dans les années 1990
5. Les autres domaines et technologies d’intelligence artificielle : robotique, systèmes multi-agents, machines à vecteur de support (SVM), réseaux bayésiens, apprentissage machine dont apprentissage par renforcement, programmation par contraintes, raisonnements à partir de cas, ontologies, logiques de description, algorithmes génétiques...
B. L’ACCÉLÉRATION RÉCENTE DE L’USAGE DES TECHNOLOGIES D’INTELLIGENCE ARTIFICIELLE GRÂCE AUX PROGRÈS EN APPRENTISSAGE AUTOMATIQUE (« MACHINE LEARNING »)
1. Les découvertes en apprentissage profond (« deep learning ») remontent surtout aux années 1980, par un recours aux « réseaux de neurones artificiels » imaginés dès les années 1940
2. L’apprentissage profond connaît un essor inédit dans les années 2010 avec l’émergence de la disponibilité de données massives (« big data ») et l’accélération de la vitesse de calcul des processeurs
3. Les technologies d’intelligence artificielle conduisent, d’ores et déjà, à des applications dans de nombreux secteurs
4. Par leurs combinaisons en évolution constante, ces technologies offrent un immense potentiel et ouvrent un espace d’opportunités transversal inédit
5. L’apprentissage automatique reste encore largement supervisé et fait face au défi de l’apprentissage non supervisé

III. CARACTÉRISTIQUES GÉNÉRALES DE LA RECHERCHE EN INTELLIGENCE ARTIFICIELLE ET ORGANISATION NATIONALE EN LA MATIÈRE

A. LES CARACTÉRISTIQUES DE LA RECHERCHE EN INTELLIGENCE ARTIFICIELLE
1. La place prépondérante de la recherche privée, dominée par les entreprises américaines et, potentiellement, chinoises
2. Une recherche essentiellement masculine
3. Une interdisciplinarité indispensable mais encore insuffisante
4. Une recherche soumise à une contrainte d’acceptabilité sociale assez forte sous l’effet de représentations catastrophistes de l’intelligence artificielle
5. Une recherche en intelligence artificielle qui s’accompagne de plus en plus d’interrogations et de démarches éthiques
B. TABLEAU DE LA RECHERCHE FRANÇAISE EN INTELLIGENCE ARTIFICIELLE
1. De nombreux organismes publics interviennent dans la recherche en intelligence artificielle
2. Quelques exemples de centres, de laboratoires et de projets de recherche
3. Une reconnaissance internationale de la recherche française et qui s’accompagne d’un phénomène de rachat de start-up et de fuite des cerveaux lié aux conditions attractives offertes à l’étranger
4. Une communauté française de l’intelligence artificielle encore insuffisamment organisée et visible
5. La sous-estimation des atouts considérables de la France et le risque de « décrochage » par rapport à la recherche internationale en intelligence artificielle

DEUXIÈME PARTIE : LES ENJEUX DE L’INTELLIGENCE ARTIFICIELLE

I. LES CONSÉQUENCES ÉCONOMIQUES ET SOCIALES DE L’INTELLIGENCE ARTIFICIELLE

A. D’IMPORTANTES TRANSFORMATIONS ÉCONOMIQUES EN COURS OU À VENIR
1. L’évolution vers une économie globalisée dominée par des « plateformes »
2. Un risque de redéfinition, sous l’effet de ce nouveau contexte économique, des rapports de force politiques à l’échelle mondiale
3. Des bouleversements annoncés dans le marché du travail : perspectives de créations, d’évolutions et de disparitions d’emplois
B. LA SOCIÉTÉ EN MUTATION SOUS L’EFFET DE L’INTELLIGENCE ARTIFICIELLE
1. Les défis lancés par l’intelligence artificielle aux politiques d’éducation et de formation continue
2. Une révolution potentielle de notre cadre de vie et de l’aide aux personnes
3. Le défi de la cohabitation progressive avec des systèmes d’intelligence artificielle dans la vie quotidienne

II. LES QUESTIONS ÉTHIQUES ET JURIDIQUES POSÉES PAR LES PROGRÈS EN INTELLIGENCE ARTIFICIELLE

A. LES ANALYSES PRÉSENTÉES PAR D’AUTRES INSTANCES POLITIQUES
1. Les deux rapports issus des institutions de l’Union européenne : Parlement européen et Comité économique et social européen (CESE)
2. Les trois rapports de la Maison Blanche
3. Le rapport de la Chambre des Communes du Royaume-Uni
4. Les initiatives chinoises et japonaises en intelligence artificielle accordent une place contrastée aux questions éthiques
5. La stratégie du Gouvernement français pour l’intelligence artificielle : un plan qui arrive trop tard pour être intégré dans les stratégies nationales destinées au monde de la recherche
B. DES « LOIS D’ASIMOV » À LA QUESTION CONTEMPORAINE DE LA RÉGULATION DES SYSTÈMES D’INTELLIGENCE ARTIFICIELLE
1. Dépasser les « lois d’Asimov » pour envisager un droit de la robotique
2. Les questions juridiques en matière de conception (design), de propriété intellectuelle et de protection des données personnelles et de la vie privée
3. Les divers régimes de responsabilité envisageables et ceux envisagés
4. Les différenciations du droit applicable selon le type d’agents autonomes : robots industriels, robots de service, voitures autonomes et dilemmes éthiques afférents
C. LA PRISE EN COMPTE GRANDISSANTE DES ENJEUX ÉTHIQUES
1. Le cadre national de la réflexion sur les enjeux éthiques de l’intelligence artificielle
2. Les nombreuses expériences anglo-saxonnes de réflexion sur les enjeux éthiques de l’intelligence artificielle
3. Le travail en cours sur les enjeux éthiques au sein de l’association mondiale des ingénieurs électriciens et électroniciens (Institute of Electrical and Electronics Engineers ou IEEE)
4. Une sensibilisation insuffisante du grand public à ces questions et un besoin de partage en temps réel de la culture scientifique et de ses enjeux éthiques

III. LES QUESTIONS TECHNOLOGIQUES ET SCIENTIFIQUES QUI SE POSENT EN MATIÈRE D’INTELLIGENCE ARTIFICIELLE

A. LES SUJETS D’INTERROGATION LIÉS AUX ALGORITHMES UTILISÉS PAR LES TECHNOLOGIES D’INTELLIGENCE ARTIFICIELLE
1. Les questions de sécurité et de robustesse
2. Les biais et les problèmes posés par les données nécessaires aux algorithmes d’apprentissage automatique
3. Le phénomène de « boîtes noires » des algorithmes de deep learning appelle un effort de recherche fondamentale vers leur transparence
4. La question des bulles d’information dites « bulles de filtres »
B. LES SUJETS D’INTERROGATION LIÉS À LA « SINGULARITÉ », À LA « CONVERGENCE NBIC » ET AU « TRANSHUMANISME »
1. La « singularité », point de passage de l’IA faible à l’IA forte peut, à long terme, constituer un risque
2. Un prophétisme dystopique indémontrable scientifiquement
3. Les questions posées par la « convergence NBIC »
4. La tentation du « transhumanisme »

TROISIÈME PARTIE : LES PROPOSITIONS DE VOS RAPPORTEURS

I. POUR UNE INTELLIGENCE ARTIFICIELLE MAÎTRISÉE

Proposition n° 1 : Se garder d’une contrainte juridique trop forte sur la recherche en intelligence artificielle, qui - en tout état de cause - gagnerait à être, autant que possible, européenne, voire internationale, plutôt que nationale

Proposition n° 2 : Favoriser des algorithmes et des robots sûrs, transparents et justes, et prévoir une charte de l’intelligence artificielle et de la robotique

Proposition n° 3 : Former à l’éthique de l’intelligence artificielle et de la robotique dans certains cursus spécialisés de l’enseignement supérieur

Proposition n° 4 : Confier à un institut national de l’éthique de l’intelligence artificielle et de la robotique un rôle d’animation du débat public sur les principes éthiques qui doivent encadrer ces technologies

Proposition n° 5 : Accompagner les transformations du marché du travail sous l’effet de l’intelligence artificielle et de la robotique en menant une politique de formation continue ambitieuse visant à s’adapter aux exigences de requalification et d’amélioration des compétences

II. POUR UNE INTELLIGENCE ARTIFICIELLE UTILE, AU SERVICE DE L’HOMME ET DES VALEURS HUMANISTES

Proposition n° 6 : Redonner une place essentielle à la recherche fondamentale et revaloriser la place de la recherche publique par rapport à la recherche privée, tout en encourageant leur coopération

Proposition n° 7 : Encourager la constitution de champions européens en intelligence artificielle et en robotique, tout en poursuivant le soutien aux PME spécialisées, en particulier les start-up

Proposition n° 8 : Orienter les investissements dans la recherche en intelligence artificielle vers l’utilité sociale des découvertes

Proposition n° 9 : Élargir l’offre de cursus et de modules de formation aux technologies d’intelligence artificielle dans l’enseignement supérieur et créer, en France, au moins un pôle d’excellence international et interdisciplinaire en intelligence artificielle et en robotique

Proposition n° 10 : Structurer et mobiliser la communauté française de la recherche en intelligence artificielle en organisant davantage de concours primés à dimension nationale, destinés à dynamiser la recherche en intelligence artificielle, par exemple autour du traitement de grandes bases de données nationales labellisées

Proposition n° 11 : Assurer une meilleure prise en compte de la diversité et de la place des femmes dans la recherche en intelligence artificielle

III. POUR UNE INTELLIGENCE ARTIFICIELLE DÉMYSTIFIÉE

Proposition n° 12 : Organiser des formations à l’informatique dans l’enseignement primaire et secondaire faisant une place à l’intelligence artificielle et à la robotique

Proposition n° 13 : Former et sensibiliser le grand public à l’intelligence artificielle par des campagnes de communication, l’organisation d’un salon international de l’intelligence artificielle et de la robotique et la diffusion d’émissions de télévision pédagogiques

Proposition n° 14 : Former et sensibiliser le grand public aux conséquences pratiques de l’intelligence artificielle et de la robotisation

Proposition n° 15 : Être vigilant sur les usages spectaculaires et alarmistes du concept d’intelligence artificielle et de représentation des robots

CONCLUSION

SAISINE DE L’OFFICE

RÉUNION DE L’OPECST DU 14 MARS 2017 : ADOPTION DU RAPPORT

LISTE DES PERSONNES RENCONTRÉES

I. PERSONNES RENCONTRÉES PAR LES RAPPORTEURS EN VUE DE L’ÉTUDE DE FAISABILITÉ

II. PERSONNES RENCONTRÉES PAR LES RAPPORTEURS EN VUE DE L’ÉTABLISSEMENT DU RAPPORT
A. EN FRANCE
B. À L’ÉTRANGER

BIBLIOGRAPHIE