Intelligence artificielle, risques réels...

[C02]

Il y a 2 heures, syncopatte a dit :

M'est avis que les potentiels problèmes dus à l'IA (cela fait penser au borborygme de l'âne), c'est seulement pour passer du temps et accessoirement un sujet pour ceux qui s'en préoccupent en mode alerte buzz, de se dire qu'ils sont fantastiques d'être tellement en avance sur leur temps.

 

Bref: des conneries!

 

@POTUS

 

Il y a 2 heures, syncopatte a dit :

Je n'ai pas tout lu ou lu tout, mais qu'en est-il avec les sentiments, l'humour et l'imagination artificielle?

En quoi un truc qui fonctionne sur secteur ou batteries rechargeables pourrait me dicter un mode de vie?

 

Le sujet est parti du message 1 : http://www.lemonde.fr/pixels/article/2018/02/21/un-rapport-alerte-sur-les-risques-pour-l-intelligence-artificielle-de-tomber-entre-de-mauvaises-mains_5259984_4408996.html

Tout se réduit rapidement à la science fiction et à la singularité technologique quand on aborde ce sujet...

Ça n'est pourtant pas à négliger, mais il y a des problèmes bien plus actuels et réels.

Pour faire moins dans l'IAnnerie, on peut parler d'AI si on veut, en anglais, et là, aïe, c'est moins drôle, et ça fait mal...

C'est sûr qu'au pied du désert on se branle moins le chef sur les vicissitudes du monde.

Ceux qui m'ont l'air de réagir en mode buzz sur la question sont les Macron et consorts, qui ne voient qu'un moyen d'être à la page et de faire la thune, ou de satisfaire des envies de dystopie.

Aujourd'hui des types qui n'ont rien de super-intelligent sont déjà capables de dicter des modes de vie, et le monde entier est branché ou sur batteries.

 

[charpy]

Vilani a soulevé un vrai danger de l'IA pour presque demain (et macron fonce dans cette voie prometteuse) : son intérêt économique!

il y a moyen que ça rapporte gros en la mettant dans des secteurs stratégiques genre finance, commerce.... déjà que les financiers humains n'ont pas vraiment le souci des conséquences sociales et sociétales de leurs décisions, si on met plein d'IA là dedans, ça ne peut qu'être pire, et encore plus déconnecté de la "vraie vie" de la plupart des gens.

 

ça s'annonce extrêmement difficile et urgent de réglementer ce genre de pratique, il y a vraiment plein de choses à clarifier en terme de responsabilité pour qu'il y ait un max de précaution au moment de sortir les IA des labos pour les mettre en service dans le monde réel.

 

c'est comme pour les voitures à conduite autonome.

Qui est responsable en cas de pépin?  le proprio du véhicule, le constructeur, le programmeur?

Est ce qu'on achètera bientôt une voiture sans volant et c'est le fabricant qui aura la responsabilité de la conduite et l'assurance à sa charge?

 

bref il ya  du boulot pour le législateur....

 

Après le "big data" qui n'est qu'un prolongement de l'augmentation de la puissance de traitement et de stockage informatique donc une suite logique de l'informatique à papy, on commence à voir se pointer une nouvelle révolution technologique avec des réponses fines à des situations complexes pour lesquelles les machines étaient hors jeu.

est ce qu'on va tolérer les conneries d'une IA apprenante qui fait ses propres expérimentations juste pour voir, comme un "salle gosse" qui s'amuse ?

est ce qu'il y aura une "majorité" avec des paliers d'autonomie pour les IA ?

quels sont les responsabilités qu'on va leur confier (conduire c'est déjà pas rien, faudra t il un permis IA?)

jusqu'ou pourront elles prendre des initiatives?

jusqu'ou pourront elles établir une relation "sociale" avec nous? (voir les prouesses de NAO)

 

ça promet d'être passionnant dans les 20 ou 30 prochaines années le temps que le cadre juridique se mette en place et qu'elles envahissent nos vies !

 

Modifié 30 mars 2018 par charpy

[C02]

Oui il semble que ce rapport Villani sur l'IA n'ait une dimension que pragmatique et économique.

 

Je viens de lire le premier point du rapport, "une politique économique articulée autour de la donnée".

"D’abord, une politique offensive visant à favoriser l’accès aux données, la
circulation de celles-ci et leur partage. Les données sont la matière première
de l’IA contemporaine     ...    La puissance publique doit par ailleurs amorcer de nouveaux
modes de production, de collaboration et de gouvernance sur les données,
par la constitution de « communs de la donnée » 4 . Il lui revient ainsi d’inciter
les acteurs économiques au partage et à la mutualisation de données voire,
dans certains cas, d’en imposer l’ouverture."

Bien sûr en respectant les standards blablabla de protection blablabla...

 

On voit ce que ça donne la protection des données ces derniers temps avec le dernier scandale en cours : Cambridge Analytica.

 

Pour les Parisiens aujourd'hui à la Sorbonne se tient le forum "les révolutions de l'intelligence", de 10h à 18h : https://www.franceculture.fr/evenement/forum-les-revolutions-de-lintelligence-en-public-a-la-sorbonne

 

Aux origines de l'intelligence artificielle : https://www.franceculture.fr/numerique/aux-origines-de-lintelligence-artificielle

"L’intelligence artificielle se définit comme le contraire de la bêtise naturelle", selon Woody Allen. La recherche dans ce domaine s’amplifie, une course mondiale à l’innovation est lancée depuis les années 2000. Mais d'où vient l’intelligence artificielle et que recoupe ce terme ?

Modifié 31 mars 2018 par C02

[bang*gib]

Après avoir lu  (pas fini encore) la revue  "Comment sauver l’intelligence naturelle ?" je voulais ,en fait je  le désirais avant, approfondir (avoir plus d'info ) sur  "le test de Turing "

 

Génial ta vidéo CO2 je me permets de la poser ici.

Ainsi que de remettre le lien :

https://www.franceculture.fr/numerique/aux-origines-de-lintelligence-artificielle

 

 

[syncopatte]

En fait je trouve le terme "intelligence" mal choisi.

 

"Faculté" ou "aptitude" colle mieux: la machine à jouer au go possède une faculté, mais n'est pas intelligente pour autant.

 

Patte.

[bang*gib]

il y a 13 minutes, syncopatte a dit :

En fait je trouve le terme "intelligence" mal choisi.

 

Bien d'accord.

il y a 13 minutes, syncopatte a dit :

"Faculté" ou "aptitude"

 

Je vais pas faire le tatillon bien que ces termes se rapprochent ... de l'humain  

[C02]

Emission "la conversation scientifique" d'Etienne Klein de Nov. 2017 : "l'intelligence peut-elle devenir artificielle ?"

Entretien avec Yann Le Cun, directeur du laboratoire d'intelligence artificielle du réseau social Facebook.

https://www.franceculture.fr/emissions/la-conversation-scientifique/lintelligence-peut-elle-devenir-artificielle

 

Très intéressant ce que raconte Yann Le Cun !

Il a enseigné au Collège de France (2015-2016) : cours sur l'apprentissage profond.

https://www.college-de-france.fr/site/yann-lecun/_inaugural-lecture.htm

 

Qu'est-ce que l'intelligence artificielle ? : https://www.college-de-france.fr/site/yann-lecun/Recherches-sur-l-intelligence-artificielle.htm

(article dispo en pdf)

 

Une petite conf de Murray Shanahan, dont je lis le bouquin en ce moment (Technological singularity). La traduction n'est pas géniale d'ailleurs, mais ça se lit.

The future of artificial intelligence :

 

 

Et une vidéo du Isaac Asimov memorial debate 2018, organisé par le American museum of national history, et présenté par Neil deGrasse Tyson

avec John Giannandrea (Senior Vice President of Engineering, Google), Helen Greiner (Co-Founder, iRobot; Founder, CyPhy Works), Ruchir Puri (Chief Architect, IBM Watson), Max Tegmark (Professor of Physics, Massachusetts Institute of Technology; President, Future of Life Institute), Michael P. Wellman (Professor of Computer Science and Engineering, University of Michigan).

 

 

Bon, plus on gratte, plus on en trouve.

Ça n'est plus une histoire de buzz, on est en plein dedans.

Modifié 31 mars 2018 par C02
Lien Yann Le Cun College de France

[Albuquerque]

L'intelligence artificielle décidera de relancer le nucléaire.

[C02]

il y a 44 minutes, Albuquerque a dit :

L'intelligence artificielle décidera de relancer le nucléaire.

 

En tout cas EDF lance sa solution d'IA , la startup Metroscope, pour le diagnostic de ses centrales, et pour tout autre installation industrielle : https://www.edf.fr/groupe-edf/espaces-dedies/journalistes/tous-les-communiques-de-presse/edf-lance-metroscope-la-solution-d-intelligence-artificielle-au-service-de-l-excellence-operationnelle-de-ses-clients-industriels

 

Il y a 11 heures, bang*gib a dit :

je voulais ,en fait je  le désirais avant, approfondir (avoir plus d'info ) sur  "le test de Turing "

 

Un nouveau test est en cours d'élaboration, le AI2 Reasoning Challenge (ARC) : https://www.technologyreview.com/s/610521/ai-assistants-dont-have-the-common-sense-to-avoid-talking-gibberish/

Capable de déterminer si une IA possède du bon sens et qui devrait reléguer le test de Turing au passé.

 

Gary Marcus, a professor at NYU who has argued for the importance of common sense in AI, is encourage by the AI2 challenge. “I think this is a great antidote to the kind of superficial benchmarks that have become so common in the field of machine learning,” he says. “It should really force AI researchers to up their game.”

 

Sinon sur Turing : http://www.espace-turing.fr/-Alan-Turing-.html

On y trouve en lien son texte Computing Machinery and Intelligence

 

 

Pour revenir sur Villani : https://theconversation.com/rapport-villani-entre-enjeux-scientifiques-ethiques-et-commerciaux-94063

 

Au vu du passé, il n’y a aucune raison de croire que les entreprises qui mettent en œuvre des systèmes basés sur l’IA pensent à la sécurité et à la protection de la vie privée dès la conception. Au contraire, l’apprentissage machine a besoin de données, beaucoup de données, et donc les entreprises en acquièrent d’énormes quantités afin de les exploiter avec leurs algorithmes. Alors que l’on pourrait penser qu’une gestion responsable de grandes quantités de données serait d’une valeur inestimable pour la recherche, en particulier dans le domaine de la santé, les risques liés à la collecte, au stockage et à l’utilisation de ces dernières, en particulier dans un contexte commercial, sont très élevés .

...

En France, le mathématicien et député LREM de l’Essonne, Cédric Villani devrait remettre son rapport final détaillant une stratégie nationale pour l’étude et l’exploitation de l’intelligence artificielle ce jeudi 29 mars. Il sera intéressant de voir comment il équilibrera les demandes de recherche, d’innovation et de commercialisation sans compromettre la nécessité de protéger la vie privée et la sécurité de la société et de ses membres.

Ce ne sera pas facile. Il a déjà été affirmé que le règlement général sur la protection des données (RGPD) européen, qui entrera en vigueur le 25 mai, « placera les entreprises de l’UE dans une position concurrentielle désavantageuse par rapport à leurs concurrents en Amérique du Nord et en Asie ».

 

Entre compétitivité et protection des données, il va falloir choisir...

[JB Gayet]

il y a 4 minutes, C02 a dit :

 

 

Entre compétitivité et protection des données, il va falloir choisir...

 

C'est tellement vrai en médecine aussi....  

[C02]

Il y a 12 heures, JB Gayet a dit :

C'est tellement vrai en médecine aussi....

 

Oui merci d'évoquer le sujet, c'est particulièrement intéressant.

Tu peux développer à l'occasion

 

En attendant la mise en place du RGPD aussi bien dans le public que dans le privé risque d'être un belle pagaille (et je ne parle pas du prélèvement à la source...).

La CNIL alerte depuis déjà un an sur des arnaques : https://www.cnil.fr/fr/vigilance-mise-en-conformite-rgpd

https://www.numerama.com/politique/323257-la-cnil-met-en-garde-attention-aux-experts-rgpd-qui-preparent-des-escroqueries.html

 

Protection des données : le chaotique business de la conformité RGPD

https://www.latribune.fr/technos-medias/internet/protection-des-donnees-le-chaotique-business-de-la-conformite-772922.html

 

Il faut encore que j'épluche les "Focus sectoriels" du rapport Villani, dont le Focus 2, "la santé à l'heure de l'IA".

IA, données de santé, hmm...

 

edit : il ne m'a pas fallu aller bien loin dans la lecture du Focus 2 pour ressentir de l'effroi...

 

https://www.theguardian.com/technology/2018/mar/31/big-data-lie-exposed-simply-blaming-facebook-wont-fix-reclaim-private-information

In the meantime, of course, we’ll be subject to a barrage of promises – by politicians, especially in Europe, but also by tech executives – that they will do their best to tighten up controls over our data and even introduce new laws to punish blatant malpractice. This is a development we should watch most carefully, for such rhetoric will inevitably try to restore the sense of normality about the overall state of the digital economy, trying to convince us that, save for a few bad apples and their ethical deviations, all the fundamentals look good and nothing major is at stake.

Modifié 1 avril 2018 par C02

[charpy]

Le ‎31‎/‎03‎/‎2018 à 23:06, Albuquerque a dit :

L'intelligence artificielle décidera de relancer le nucléaire.

Roh! la vilaine tentative de trollage!

 

Déjà qu'on parle beaucoup dans ce topic du "big data" qui n'est pas vraiment de l'IA mais de l'extraction / croisement d'info de base de donnée, tu veux quand même pas relancer ici notre différent sur le nucléaire. 

[C02]

il y a 21 minutes, charpy a dit :

Roh! la vilaine tentative de trollage!

Déjà qu'on parle beaucoup dans ce topic du "big data" qui n'est pas vraiment de l'IA mais de l'extraction / croisement d'info de base de donnée, tu veux quand même pas relancer ici notre différent sur le nucléaire

 

J'avais recentré le sujet sur l'IA.

On parle de la donnée dans ce topic, parce que comme il est dit dans le rapport Villani,  les données sont la matière première de l’IA contemporaine.

Et comme cité un peu plus haut, l'apprentissage machine, qui représente à l'heure actuelle une des voies les plus importantes dans le développement de l'IA, a besoin de données, beaucoup de données...

 

 

L'occasion de définir le big data, et de ne pas tout mélanger : https://fr.wikipedia.org/wiki/Big_data

 

Et quoi de mieux que cette extrait de l'article wikipedia ? :

 

"Divers experts, grandes institutions (comme le MIT¹³ aux États-Unis, le Collège de France¹⁴ en Europe), administrations¹⁵ et spécialistes sur le terrain des technologies ou des usages¹⁶ considèrent le phénomène big data comme l'un des grands défis informatiques de la décennie 2010-2020 et en ont fait une de leurs nouvelles priorités de recherche et développement, qui pourrait notamment conduire à l'Intelligence artificielle en étant exploré par des réseaux de neurones artificiels autoapprenants¹⁷."

Modifié 1 avril 2018 par C02

[C02]

What's the difference between Artificial Intelligence, Machine Learning, and Deep Learning ?

https://blogs.nvidia.com/blog/2016/07/29/whats-difference-artificial-intelligence-machine-learning-deep-learning-ai/

[bang*gib]

Bonsoir à tous.

 

Une petite vidéo sur les assistants vocaux.

 

 

 

Désolé pour le p’tit décalage de réponse je ferais aussi quelques ponctions…

Avec une extension d’IA j’aurais pu traiter plus d’info :

 Big data intelligence artificielle etc…

 J’étais bien occupé par ailleurs en plus d’être partit dans la  réflexion d’un scénario.

Un homme et un robot, suite à un  conflit sur un supertanker durant une tempête, sont débarqués de nuit sur une ile déserte.

L’autonomie  de chacun est limitée :

3 jours de ration alimentaire pour l’homme et 3 jours d’énergie pour le robot.

Devant cette extrémité,  entre eux deux est né en plein pacifique, un océan de haine.

Le premier matin de ce compte à rebours, de nulle part est arrivé un joli ara qui en se posant sur l’épaule de l’homme est  venu se mêler en assistant  à ce face à face.

Les deux ennemis conditionnels ou alliés considèrent  le joli perroquet.

Je vous laisse imaginer la suite. 

À propos de l’intelligence naturelle (dans la revue) voici un point de vue que j’espère non artificiel. 

J'ai trouvé les articles intéressants  et ça m’a ramené vers l’homme  qui s’est toujours expérimenté avec l’artificiel.

Depuis qu’il  l’a créé et l’a  trouvé beau, tous les 14 juillet nous avons droit à un feu d’artifice. 

Pour être sérieux, l’impression que j’ai de l’article, dans « philosophie magasine » « Comment sauver l’intelligence naturelle » c’est  qu’il y a comme une perche tendu d’un philosophe vers un spécialiste en IA. Cette  confrontation plutôt cet échange, me parait limite  complaisant,  et  forcément amène vers de la  spéculation.

Ca s’envisage bien…

Il m’est d’avis que les  domaines  pour  définir l’intelligence naturelle et  tout ce qui s’y rapproche conscience etc… sont nombreux  et nécessairement complémentaires, pourvue qu’il y ait un peu/ beaucoup de rigueur  scientifique.

 Bien sûr, je ne suis ni philosophe ni scientifique ni spécialiste en IA ou intelligence naturelle, sinon faite-moi confiance  ça se saurait.

Dans la revue  Laurence Devillers, professeur à la Sorbonne en informatique et chercheuse  dit :

...les robots  ne ressentent rien  n’ont pas d’émotion ni d’attention. Il s’agit de simulation….

…On anthropomorphise les capacités du robot. C’est  le bluff actuel du robot Sophia. On doit absolument expliquer au public  que l’on produit du comportement simulé.

Elle évoque aussi les années 1950 …

Je rajouterai que l’IA d’un robot, n’est qu’une copie à l’image ou non de l’homme, une machine bardée de calculateurs résolvant que des équations. 

Depuis 1950 ça a explosé et les progrès de l’IA sont indéniables, et le mot exponentiel prend tout son sens.

D’abord pour les calculs  de ses doigts il est passé au boulier puis vers la machine à calculer(calculatrice).

Le jour ou l’homme est monté à cheval il avait bien saisi qu’il  avait des moyens et qu'il pouvait aller plus vite et plus loin, même en calculs.

Il est passé au cheval vapeur  et aux sondes spatiales robotisées.

Même s’il y a des fous parmi les hommes, (je pense à un possible usage de l’IA, une crainte bien réelle une perte de liberté), l’homme n’est pas fou.

 Aujourd’hui on utilise  des bécanes ô combien performantes, ahurissantes.

Qui les a inventés ?

Les performances de l’IA et sa supériorité sur l’homme ne sont démontrables, que sur des points précis.

 

Après le scénario  possible « un homme un robot et un perroquet » j’ai fait un peu de recherche.

Il y a plusieurs vidéos en cherchant bien.

 

 Un perroquet passe commande sur Amazon (vidéo)Un perroquet a réussi a passer une commande sur Amazon via l’assistant vocal du géant américain du numérique en imitant la voix de sa propriétaire à Londres, rapporte le journal britannique The Sun mercredi.

 

http://geeko.lesoir.be/2017/09/21/un-perroquet-passe-commande-sur-amazon-videos/

[bang*gib]

Bonsoir.

Une petite vidéo:

Intelligence artificielle : du fantasme à la réalité

http://video.lefigaro.fr/figaro/video/intelligence-artificielle-du-fantasme-a-la-realite/5759837549001/

 

 

 

[Cyrilounet]

Le 31/03/2018 à 12:52, syncopatte a dit :

En fait je trouve le terme "intelligence" mal choisi.

 

"Faculté" ou "aptitude" colle mieux: la machine à jouer au go possède une faculté, mais n'est pas intelligente pour autant.

 

Patte.

 

Je suis d'accord avec ça.  J'ajouterai peut être le terme de "Fonction" ou "Programme". Quelque chose qui fait plus "ensemble de lignes de code". Comme disait bang*gib, c'est des termes qu'on associe dans le langage courant à l'humain. 

Si je prends cette définition de l'intelligence artificielle : "Ensemble des théories et des techniques développant des programmes informatiques complexes capables de simuler certains traits de l'intelligence humaine"

On trouve le terme de simulation. Une simulation n'est qu'une représentation qui n'est jamais à 100% l'image de la réalité. En plus, on parle de "certains traits" ça sous entend qu'il y a des traits de l'intelligence comme l'intuition ou les émotions qui sont impossible à simuler avec les techniques actuelles. 

On joue peut être sur les mots et définition mais, si on devait faire un rapport de notre débat, c'est important. Première section du rapport, "qu'est-ce que l'intelligence artificielle ?" 

[teddelyon]

Une simulation n'est pas quelque chose d'intelligent amha, c'est une version plus ou moins simplifiée d'un phénomène qu'on a décrit sous formes d'équations.

 

Une Intelligence Artificielle doit être capable :

- d’interagir avec son environnement

- de s'adapter à un environnement changeant 

- de communiquer avec d'autres Intelligences artificielles ou biologiques

- d'apprendre et d'enrichir son interaction et sa faculté d'adaptation par l'expérience

 

Ce qu'il est plus difficile à appréhender ce seront les IA de plus haut niveau (si on y arrive un jour et là-dessus  les avis sont assez partagés) qui pourront avoir 

- une conscience 

- des émotions (et donc faire des choix non-logiques, je pense que ça va de pair)

- s'auto-améliorer et/ou s'autorépliquer... là on sera dépassés (et on sera certainement en mauvaise posture aussi)

 

 

 

[charpy]

il convient aussi de dissocier le matériel de l'immatériel. Ce n'est pas la forme humanoïde qui  garanti l'intelligence, et inversement Stephen Hawking carburait bien mentalement bien que son corps soit physiquement très limité.

Pour l'instant les IA ou ce qui s'en approche sont surtout de gros calculateurs avec des "sens" qui sont des canaux de collecte d'information. Reste a voir si certains programmes ont une capacité d'évolution, une faculté à se modifier en tant que programme  et pas seulement à évoluer dans leur réponse / réaction à certaines données... 

[teddelyon]

il y a 41 minutes, charpy a dit :

il convient aussi de dissocier le matériel de l'immatériel. Ce n'est pas la forme humanoïde qui  garanti l'intelligence, et inversement Stephen Hawking carburait bien mentalement bien que son corps soit physiquement très limité.

 

Cela va sans dire...

Bien que jusqu'à preuve du contraire on est sûr d'une chose au moins,  il faut un support matériel à toute forme d'intelligence (qu'il soit biologique ou artificiel). 

 

Par contre on peut objecter que la façon dont est fait et notre société ont d'énormes influences sur nos capacités cognitives, au moins dans le processus complexe qu'est la formation du psychisme d'un individu. L'exemple de Stephen Hawking illustre également le fait qu'une fois qu'un esprit est "façonné", il peut continuer à évoluer même avec des capacités sensorielles et essentiellement de communication très dégradés. 

 

J'ai vu passer un article de vulgarisation très intéressant qui posait la question de savoir si le cerveau pouvait fonctionner de manière quantique, malgré les soucis de décohérence des qubits... je cite  :"Le physicien Matthew Fisher de l'université de Californie à Santa Barbara pense être sur la piste d'un moyen de limiter ces effets (de décohérence NDLR), en avançant que les qubits nécessaires aux calculs quantiques sont protégés en étant portés par les spins des noyaux de phosphores dans des molécules présentes dans les neurones."

 

[tictactoc]

Le 22/03/2018 à 22:48, charpy a dit :

Bientôt on va se rendre compte que le propre de l'homme n'est pas, l'intelligence, la conscience "sapiens sapiens", ni l'humour mais la connerie sans limite

à quand la connerie artificielle ?

 

Aucune I.A ne peut nous concurrencé dans se domaine. On le maîtrisent tellllllllllllllement bien  !

[C02]

Pas mal de trucs sur le feu en ce moment, j'essaie d'avancer sur mes lectures...

En attendant d'éventuelles réactions sur tous ces messages qui sont autant de nouvelles pistes à creuser, voilà de l'actu toute fraîche sur les risques de l'IA dans ses applications militaires :

 

https://www.courrierinternational.com/article/une-fac-coreenne-boycottee-pour-son-developpement-de-robots-tueurs

 

Imbattables dans la connerie, je confirme...

[charpy]

j'ai pas eu le temps de digérer non plus tout ce que tu as posté CO2. 

 

une petite définition d'intelligence résumée de wiki

Citation

L'intelligence est l'ensemble des processus retrouvés dans des systèmes, plus ou moins complexes, vivants ou non, qui permettent de comprendre, d'apprendre ou de s'adapter à des situations nouvelles. L'intelligence a été décrite comme une faculté d'adaptation (apprentissage pour s'adapter à l'environnement ou au contraire, faculté de modifier l'environnement pour l'adapter à ses propres besoins). Dans ce sens général, les animaux, les plantes, les outils informatiques (apprentissage profond), font preuve d'une intelligence.

L'intelligence est étudiée par la psychologie cognitive, la psychologie du développement, l'anthropologie (évolution), l'éthologie cognitive (intelligence animale), les neurosciences (biologie) ou encore la génétique.

Meme en psychologie ils font des distinctions selon différentes formes d'intelligence (verbale, spatiale, émotionnelle,....).

 

Pour l'armement malheureusement il y a des gros sous. On trouve toujours qq'un pour faire le job si on allonge des billets. Du coup c'est un peu la course à l'échalote.

 

J'ai failli bosser sur une amélioration d'une arme non léthale pour une boite que je connais, j'avais trouvé une idée pour la rendre plus efficace contre l'ennemi et moins efficace contre son camp. La boite développe beaucoup de produits "civils" mais l'essentiel de son chiffre vient de la sécurité et de plus en plus pour "agir"  (en plus de surveiller et faire du soutien). 

je pense que c'est vraiment au niveau législatif (et international) qu'il faut prendre des decisions pour limiter au maximum la prolifération des outils dangereux mais je ne suis pas sur que le contexte actuel soit porteur d'apaisement. Ce n'est probablement qu'un début re 

[bang*gib]

Bonsoir.

 

                              

                 

Un petit article de      Techniques de l’ingénieur  : L’IA ne détruira pas tout de suite l’humanité !

Environ 5 mn de lecture.

https://www.techniques-ingenieur.fr/actualite/articles/ia-danger-risque-41693/

                                                                                       

[C02]

Pour résumer je reste un peu sur ma faim à l'issue de la lecture du dossier de philosophie magazine.

Il aurait fallu consacrer un numéro entier.

Le petit cahier sur Pascal est pas mal.

 

@charpy

Je ne suis pas sûr d'avoir saisi le fond de ta pensée dans ton dernier message mais je trouve aussi que le terme d'intelligence dans l'expression IA n'est pas si mal choisi.

Et à force de simulation, et de progrès en informatique et neurosciences...

A chacun d'imaginer la suite...

 

@bang*gib

J'irai feuilleter le bouquin de Ganascia pour voir, mais j'ai peur d'être déçu.

120 pages... enfin paraît que c'est dense... on verra si c'est convaincant...

 

@teddelyon
J'ai fouiné du côté de Matthew Fisher, suis tombé sur son site (https://www.kitp.ucsb.edu/mpaf/) et ce pdf qu'il me reste à lire : Are we quantum computers, or merely clever robots ?

 

Un article au sujet d'une de mes lectures du moment (Singularité technologique de Murray Shanahan) : https://usbeketrica.com/article/ia-super-intelligente-un-risque-faible-mais-cataclysmique

La partie intéressante concerne notamment l'émulation du cerveau entier.

 

Pour revenir sur le big data et les données médicales : https://theconversation.com/debat-les-donnees-de-notre-sante-doivent-rester-confidentielles-92950

A méditer : " À l’échelle de la société, notre capacité de faire n’excède-t-elle pas, actuellement, notre capacité à penser ce que nous faisons ? "

 

edit :

tiens amusant de voir jusqu'où l'IA peut être impliquée... :

https://www.theguardian.com/science/2018/apr/07/gene-therapy-may-help-astronauts-going-to-mars-resist-deadly-radiation

Researchers with the artificial intelligence company Insilico Medicine Inc who teamed up with international scientists say discoveries in gene therapy and drug creation could be beneficial to future astronauts on deep space missions.

Scientists want astronauts to have personalized drugs tailor-made for their own bodies. To do this, they will have to use artificial intelligence to pinpoint which cells are more resistant than others, and fortify them using gene therapy.

Modifié 7 avril 2018 par C02

[syncopatte]

Il y a 16 heures, bang*gib a dit :

 Un petit article de      Techniques de l’ingénieur  : L’IA ne détruira pas tout de suite l’humanité !

Environ 5 mn de lecture.

https://www.techniques-ingenieur.fr/actualite/articles/ia-danger-risque-41693/                                                                                  

 

Voilà un superbe résumé!

Tempête dans un verre d'eau, sans même parler de sentiments, imagination et créativité artistique.

 

A ce propos, j'ai vu un reportage sur les "œuvres" issues de l'IA.

C'est du niveau  du n'importe quoi typique de beaucoup d'artistes auto-proclamés de l'art contemporain, c'est à dire des croûtes.

Question musique, quelqu'un a-t-il déjà eu la chair de poule en écoutant une composition IA?

Moi pas en tout cas.

 

Bref, je maintiens que le terme "intelligence" est très mal choisi!

En avoir peur? Non évidemment, puisqu'elle n'existe pas!

(ou alors seulement dans les fantasmes)

 

Patte.   

[C02]

il y a une heure, syncopatte a dit :

Voilà un superbe résumé!

Tempête dans un verre d'eau, sans même parler de sentiments, imagination et créativité artistique.

 

 

Superbe résumé ?

Moi qui trouvais le bouquin de Ganascia à priori un peu court...

Qu'est ce qui est une tempête dans un verre d'eau ?

La peur liée à la singularité technologique ?

C'est pas le sujet.

Le problème de la singularité n'est qu'une facette de l'IA, et tout ce qui fait réagir les foules le plus souvent.

Le débat "moi la singularité j'y crois" / "moi j'y crois pas", je m'en bats un peu  les roustons, surtout si on se contente de survoler le sujet.

Bien d'autres choses sont à considérer.

 

L'article n'est pas catégorique d'ailleurs :

Les technologies actuelles ne parviendront pas à une machine qui apprend de façon totalement autonome. Peut-être un jour. Cela ne veut donc pas dire que la singularité est impossible, mais les arguments sont très faibles.

 

L'IA (ou appelons ça comme on veut, mais on ne parviendra pas à satisfaire tout le monde) est quelque chose qui évolue.

Évolution et augmentation des usages, évolution technologique, ce qui m'intéresse ici.

Les risques concernant ces usages sont déjà réels et actuels, je me répète... ce qui m'intéresse ici aussi.

 

il y a une heure, syncopatte a dit :

sentiments, imagination et créativité artistique

A ce propos, j'ai vu un reportage sur les "œuvres" issues de l'IA

 

C'est bien que tu aies vu un reportage.

Tant qu'on ne cherche pas à me vendre une croûte pondue par une IA ça ne me dérange pas.

Y'a sûrement déjà du monde pour apprécier et avoir la chair de poule.

 

Tu insistes beaucoup sur ces thèmes, peut-être pour me détourner de l'idée que tu pourrais être un chatbot...

 

 

Modifié 7 avril 2018 par C02

[syncopatte]

Que répondrait un chatbot?

 

Ch'ais pas: une argumentation de l'imagination nécessaire pour inventer  l'histoire du chat botté?

 

Toujours est-il qu'avant qu'un robot ne ponde un tel conte, les poules pondeuses produiraient de l'or en barre.

 

Quand j'avais 12 ans, avec les copains on imaginait l'an 2000 avec des voitures volantes (mais on ne pouvait nullement s'imaginer que dans une petite carte mémoire de rien du tout, on parviendrait à stocker une chiée de fichiers).

 

Rares sont le prévisions futuristes exactes!

Peut-être que mon opinion s'avérera archi-fausse et ce que je raconte pourrait être considéré comme de la bêtise ultime dans un futur plus ou moins proche.

Peut-être que ce sera le cas pour ceusses qui croivent dans le développement fulgurant de l'IA.

 

Personnellement je considère tout ce schmillblick (tiens? qui pourrait inventer un mot pareil?) comme un affront à l'égard du vivant.

 

Patte.

 

 

 

 

[C02]

il y a 29 minutes, syncopatte a dit :

Quand j'avais 12 ans, avec les copains on imaginait l'an 2000 avec des voitures volantes

Rares sont le prévisions futuristes exactes!

Peut-être que mon opinion s'avérera archi-fausse et ce que je raconte pourrait être considéré comme de la bêtise ultime dans un futur plus ou moins proche.

Peut-être que ce sera le cas pour ceusses qui croivent dans le développement fulgurant de l'IA

 

Je ne parle pas du futur mais du présent !

L'IA est partout aujourd'hui.

L'expression "intelligence artificielle" recouvre une réalité, et ses risques ou bénéfices sont dans l'actualité.

Un affront au vivant pas sûr, comme je viens de le dire il y a aussi des bénéfices.

 

Moi ce que j'appelle "affront au vivant" c'est ça : http://www.lemonde.fr/biodiversite/article/2017/07/10/la-sixieme-extinction-de-masse-des-animaux-s-accelere-de-maniere-dramatique_5158718_1652692.html

 

Sinon y'a aussi des bagnoles volantes : https://www.20minutes.fr/economie/auto/2236003-20180312-salon-geneve-voiture-volante-devient-realite-commerciale

Modifié 7 avril 2018 par C02

[syncopatte]

Bien sûr qu'il y a des bénéfices: libérer l'homme de tâches (spécifiques) monotones ne nécessitant aucun plaisir d'invention, de libre arbitre, d'imagination etc...

Ceci à l'aide de machines, incapables de faire autre chose que ce que pour quoi elles sont conçues (par l'homme).

Ce n'est pas de l'intelligence, c'est être totalement asservi.

 

Je ne vais plus "troller" sur ce sujet, n'ayant rien d'autre à dire (en effet, j'ai l'impression de me répéter à ennuyer).

 

A plus sur d'autres sujets!

 

Patte.

 

PS: merci en tout cas! Ce sont de très intéressantes voies à cogiter!