Intelligence artificielle, risques réels...

[bang*gib]

Les japonais ne sont pas en manque d'idées.

 

Première mondiale : une IA candidate aux élections municipales au Japon !

 

 https://sciencepost.fr/2018/04/premiere-mondiale-une-ia-candidate-aux-elections-municipales-au-japon/

[Leimury]

Le 18/03/2018 à 11:56, bang*gib a dit :

 

Bonjour.

 

Ce sujet est intéressant.

 

Elon Musk craint que l’on ne devienne un jour le sujet des machines…

Après, je suis très méfiant quant à ses propres desseins qui ne sont pas plus net que le sky.

Un petit article que j’ai survolé à son propos.

IA, me fait penser au « soulèvement des machines » après « la planète des singes » et toutes ses étapes.

 

Dans l’ordre chronologique d’une telle (r)évolution, je proposerai « le soulèvement de l’humanité ».

Bonjour,

 

Conscient ou inconscient, tout est fait pour augmenter les degrés de liberté du virtuel dans le réel.

En fait qu'une machine soit intelligente ou simplement plus rapide que nous n'est pas un problème en soi si son interraction avec le réel est limitée.

 

L'IA est un faux débat, ça n'est ni plus ni moins dangereux qu'une machine ou qu'un être humain.

Le plus gros problème c'est le manque de responsabilité identifiable et le pouvoir qu'on donne à une machine.

 

L'IA qui joue aux echecs est beaucoup moins dangereuse qu'un feu rouge déréglé vous ne croyez pas ?

Le problème n'est pas dans l'intelligence, c'est surtout le pouvoir sans limite dont on peut maintenant investir certains objets qui risque de poser problèmes à l'avenir.

 

Les machines à voter ne sont pas intelligentes mais pourtant elles représentent un très grand danger parce qu'on fait aveuglément confiance à quelquechose qui ne permettra pas d'audit comme le permettent les bulletins papier.

On part du principe que la machine est sûre et donc on lui fait aveuglément confiance.

On dit que si j'appuie A c'est forcément A qui sort de l'autre côté alors que n'importe quel gamin de plus de six ans a assez de sens de l'abstrait pour savoir que ça peut être faux.

 

Une pétition contre les machine à voter : https://www.change.org/p/conseil-constitutionnel-non-au-vote-électronique

 

[C02]

Il n'y a pas de faux débat !

Il y a un débat sur l'IA, point.

Qu'il s'agisse de ses utilisations diverses (voir mon intro du sujet), de problèmes éthiques, de sexualité, de fantasme technologique, de sa place dans l'actu, etc.

Certains y voient une source de bonheur, moi de risques.

 

Plus personne ne vote aujourd'hui, d'ailleurs y'a plus ni droite ni gauche il paraît...

C'est le vote blanc qui rafle la mise aux élections et on se retrouve avec de la politique par ordonnances.

Aux US et UK, elections et référendums sont "influencés".

La démocratie, ça c'était avant.

Avec l'immixtion de machines et d'IA dans le processus, c'est le point de non retour.

 

Heureusement, c'est le printemps, je vais peut-être changer d'humeur et de point de vue...

 

Modifié 18 avril 2018 par C02

[syncopatte]

Peut-être assez pour faire des dessins figuratifs?

 

 

A comparer avec un dessin IA:

 

 

Sinon, il y a aussi ceci:

 

 

Patte.

[C02]

il y a 20 minutes, syncopatte a dit :

Peut-être assez pour faire des dessins figuratifs?

 

 

 

Pas fait par un mioche ça...

Et malgré l'arc en ciel c'est assez sinistre comme dessin...

Toute la famille est amputée des mains

 

Sinon il y aussi ceci :

 

http://mashable.france24.com/tech-business/20180207-portrait-classique-ia-gad-comte-belamy

 

Bon j'acheterais pas, mais c'est parce que je préfère l'art pariétal...

 

[bang*gib]

Bonsoir

 

Il y a 5 heures, Leimury a dit :

En fait qu'une machine soit intelligente ou simplement plus rapide que nous n'est pas un problème en soi si son interraction avec le réel est limitée.

 

Tout à fait.

 

Il y a 5 heures, Leimury a dit :

Conscient ou inconscient, tout est fait pour augmenter les degrés de liberté du virtuel dans le réel.

 

De la poudre aux yeux tu veux dire ,la manipulation des masses ?

 

Il y a 5 heures, Leimury a dit :

Le problème n'est pas dans l'intelligence, c'est surtout le pouvoir sans limite dont on peut maintenant investir certains objets qui risque de poser problèmes à l'avenir.

 

Absolument.

 

Il y a 5 heures, Leimury a dit :

L'IA qui joue aux echecs est beaucoup moins dangereuse qu'un feu rouge déréglé vous ne croyez pas ?

 

No problémo tout comme un feu bien réglé avec un chauffard qui le crame.

 

Il y a 5 heures, Leimury a dit :

Le problème n'est pas dans l'intelligence, c'est surtout le pouvoir sans limite dont on peut maintenant investir certains objets qui risque de poser problèmes à l'avenir.

 

C'est peut être bien là le hic de l'IA.

 

Il y a 5 heures, Leimury a dit :

Une pétition contre les machine à voter : https://www.change.org/p/conseil-constitutionnel-non-au-vote-électronique

 

Ah quand même ça commence un peu à bouger

 J'irai voir le lien après.

 

9 pages déjà...

 

A propos de lien ,voici mes des idées .

Y a un moment que j'ai ce lien sur le bureau.

Je l'ai pas mis car assez long ,je me suis dit alors qu'il serait lu en diagonale ou zappé.

 

« La Singularité, ça ne tient pas la route ! »

Jean-Gabriel Ganascia répond...

http://internetactu.blog.lemonde.fr/2017/06/25/la-singularite-ca-ne-tient-pas-la-route/

 

 

[C02]

J'ai lu en diagonale...

Le truc que je retiens et que je répète inlassablement c'est que "le scénario de la singularité opacifie le futur en concentrant l'attention vers un seul scénario au détriment de tous les autres."

J'ai dit que j'allais lire son bouquin.

Et faut que je me bouge avant qu'il ne soit démenti par les faits...

[bang*gib]

J'ai écrit page 2:

 

J’ai toujours pensé permettez le moi, que jamais une IA  telle qu’on la projette ne dépassera jamais l’intelligence humaine

 

telle qu’on la projette 

 

Cette nuance qui ferait la différence ne va pas pour l' irrémédiable ...

Dans les discours interviews de Jean-Gabriel Ganascia, il m'a semblé  déceler aussi des idées très furtives,distillées...

Il ne sera pas démenti mais il n'interdit  pas malgré sa démonstration imparable des modèles  pouvant être  ignorés  ...

 

[C02]

Pour se détendre un peu :

https://www.theguardian.com/science/2018/apr/18/defeated-by-ikeas-flatpack-call-in-the-robots

 

 

[Leimury]

Il y a 10 heures, bang*gib a dit :

J'ai écrit page 2:

 

J’ai toujours pensé permettez le moi, que jamais une IA  telle qu’on la projette ne dépassera jamais l’intelligence humaine

 

telle qu’on la projette 

 

Cette nuance qui ferait la différence ne va pas pour l' irrémédiable ...

Dans les discours interviews de Jean-Gabriel Ganascia, il m'a semblé  déceler aussi des idées très furtives,distillées...

Il ne sera pas démenti mais il n'interdit  pas malgré sa démonstration imparable des modèles  pouvant être  ignorés  ...

 

Bonjour,

 

Les robots en sont à la collaboration, au travail en équipe depuis au moins 15 ans.

Ca ne veut pas dire qu'une tondeuse autonome sait travailler en équipe mais la pointe de cette techno y est déjà.

 

Rien que le re-calcul d'un chemin par le GPS c'est bluffant surtout quand tu as un vieux TomTom avec sa carte mémoire de 2Gb seulement.

 

L'avantage qu'a une IA c'est que sa forme est étudiée pour sa mission.

Un GPS bien foutu n'ira pas se fier à des yeux, il voit très très loin en temps réel parce qu'on lui ajoute les organes, on lui fabrique le corps qui convient le mieux à ce qu'il doit faire.

 

Un développeur qui a déjà jeté un oeil au code assembleur d'un  compilateur sait que ça fait 20 ans que les machines sont plus efficaces que lui pour produire du code optimisé.

 

Et la créativité ?

Vous avez vu le Rembrandt produit part Watson d'IBM ?

 

Et si on commence à parler BigData, l'IA en est à la psycho utilisée pour influencer des masses; ce que projetait Asimov avec des unités de calcul quik tiennent même compte des statistiques de fiabilité (mensonge) d'un être humain est en train d'arriver.

 

L'IA a largement dépassé les espérances et toutes les prévisions, on baigne dedans et on en utilise les résultats tous les jours sans même le savoir.

 

Bon ciel

[C02]

Il y a 1 heure, Leimury a dit :

Et la créativité ?

Vous avez vu le Rembrandt produit part Watson d'IBM ?

 

J'avais point vu !

Merci.

Le lien : https://www.nextrembrandt.com/

 

 

[charpy]

Il y a 16 heures, bang*gib a dit :

« La Singularité, ça ne tient pas la route ! »

Jean-Gabriel Ganascia répond...

http://internetactu.blog.lemonde.fr/2017/06/25/la-singularite-ca-ne-tient-pas-la-route/

Il "démontre" que c'est impossible par ce que c'est imprévisible. C'est vrai qu'en bon scientifique ca fait un peu mal au cul de se dire qu'il peut arriver quelquechose de non maitrisable. Pourtant il y a pas mal de doc sur les phenomenes cahotiques qui sont par nature imprévisibles par leur complexité.

 

Sont exemple sur le changement climatique est tres revelateur car justement ca devient cahotique dans les temps et personne de sérieux ne fait des previsions au dela de la fin du siecle alors qu'on sait pertinement qu'il faudra au moins des millenraires pour retablir un equilibre. Pourtant personne ne peut dire quel sera le climat des 2 prochains millenaires meme avec des hypotheses de CO2, industrie, demographie etc....

 

On peut toujours le simuler on sait pertinament que le resultat n'aurra aucune valeur predictive.

 

Sinon je suis d'accord sur le foin médiatique autour des "prévisions" de singularité qui permet à n'importe qui de dire n'importe quoi en ce planquant derrière cet argument "c'est pas impossible" alors que c'est très improbable.

 

Sinon 100% d'accord avec Leimury sur le fond : on se rend auto-dépendant, on fait de plus en plus confiance... ça nous rend service mais c'est pas une raison pour ne compter que sur la technologie et il est important de garder des roues de secours.

Comment font les pompier pour intervenir sur le lieu d'intervention si une tempête solaire dézingue les satellites GPS et qu'ils n'ont pas de plan ou de cartes en secours... comment faire si personne n'est plus capable de lire une carte...

 

je trouve que la mondialisation accentue fortement ce phénomène mouton "tout le monde fait la meme chose en meme temps" avec une palanquée de conséquences négatives.... de la production de masse suivi du chômage de masse en passant par la déforestation d'un coté de la planète pour fournir du bois à l'autre coté. si on rajoute une dose d'IA  là dedans sans se soucier d'éthique je pense que ça ne peut qu'empirer le phénomène.

Modifié 19 avril 2018 par charpy

[Leimury]

Meuh non !

 

Les bugs ça n'existe pas !

[Dodgson]

À propos de "The next Rembrandt" : certes, mais un bon faussaire aurait fait aussi bien plus vite, et tout seul.

 

[Leimury]

Bonjour,

 

Face à l'IA et aux performances des machines on peut s'enfoncer dans le déni, c'est une approche.

Quand une machine arrive à créer à la façon de Rembrandt ça dépasse largement le travail du faussaire.

 

Ce qui me sidère c'est la montée en force des capteurs et de la puissance de calcul en même pas un siècle.

Avec les derniers smartphone Android ou Apple tu as les animojis, de la reconnaissance de mouvements faciaux standardisés sous forme d'API disponibles sur n'importe quel OS.

Même pas besoin d'être ultra doué en codage pour utiliser ça, il suffit de lire le manuel.

 

De toute façon l'IA est largement acceptée, les assistants personnels à reconnaissance vocale Amazon ou Google ont atteint un large stade de diffusion.

 

On ne réalise même plus à quel point cette industrie vit de gros datacenters dont quelques uns ont la clef.

On est plus très loin du Cartel OCP ou de Weyland Industries.

 

Dites vous bien que la seule limite est l'imagination parce que quel que soit le projet avec du numérique dedans il y'a déjà adhésion de principe et l'argent tombe.

 

A propos d'IA, testez voir DeepL

Ca vous fera vraiment changer d'avis sur les traducteurs automatiques.

 

N'oubliez pas que nous n'avons accès qu'à des technoq éprouvées qui ont passé le stade de l'industrialisation.

La recherche est bien loin devant !

[Leimury]

L'IA n'est pas plus dangereuse que le feu ou un marteau.

 

Le seul petit problème c'est que l'IA coute beaucoup et nécessite de plus en plus de resources connectées; donc de gros groupes.

Le problème c'est plutôt que l'industrialisation prend le pas sur les états et sur le pouvoir élu.

 

Personne ne nous demande notre avis avant de mettre en place un réseau d'échange.

 

Un grand pouvoir sans aucune démocratie

 

Peu importe ensuite que ce soit le président d'une société ou une machine qui prenne les décisions pouisqu'il y'a la notion de pouvoir absolu.

De toute façon une IA commence et finit entre les mains des humains.

 

Vous oubliez un peu vite les IAs de trabnsactions bancaire.

L'heure est à l'ultra vitesse et aux microtransactions.

Toutes les nations sont engagées dans une course à la puissance de calcul et à l'extenssion du réseau physique d'action.

 

Pourquoi croyez vous que la fibre et les projets nG soient prioritaires ?

 

Vous vous posez des questions sur les risques liés à l'IA ?

Vous avez juste 15 ans de retard , la question ne se pose plus.

Modifié 19 avril 2018 par Leimury

[C02]

Un nouveau pacte faustien ?

http://laloidesparties.fr/droit-et-intelligence-artificielle

Très bien cet article, en plein dans le sujet de la démission de l'Homme.

Relisons tous Bernanos !...

 

Le futur aura t-il besoin de nous ?

 

(Voir article de Bill Joy, "pourquoi le futur n'a pas besoin de nous")

Je sais... Ganascia en parle...

[bang*gib]

L’intelligence artificielle s’invite dans le débat juridique. (Lien ci dessus.)

 

Eh ben on n'est pas clair.

J'imagine un accident de voiture autonome avec des victimes" jugé" par une IA.

Je vais tenter de trouver  pour combler notre retard de 15 ans 

-IA balade votre toutou

-IA à la crèche

Liste non exhaustive

ça va être  l'invasion...

 

"Le futur aura t-il besoin de nous ?"

 

Le futur sans nous n'est pas le futur.

[bang*gib]

il y a 10 minutes, patrick60 a dit :

Je cite : "L’automatisation de ces tâches titanesques pour un cerveau humain devrait aboutir à une justice plus efficace, selon les auteurs, puisque aujourd’hui « les décisions judiciaires sont ainsi rendues dans un contexte de rationalité fortement limité »

 

...la vache ! on passerait alors dans la "Justice-rendement"...il y a de quoi flipper  ! Blade runner à coté, c'est les Bisounous ! Tu n'as déjà "aucune chance" avec un radar automatique aujourd'hui qu'est-ce que ça va etre demain avec une telle..."Justice" laquelle est précisément basée sur cette marge d'appréciation si spécifique à chaque situation !...je n'ose meme pas imaginer le jour ou le Procureur AI se mets à "buguer"

 

un pacte faustien ? meme pas ! c'était encore préférable parce que tu avais encore une marge de manoeuvre avec le Malin que tu n'auras plus du tout ou d'une manière totalement différente rapidité du traitement de l'Information oblige (entre autres)

 

Le père Laurent Alexandre n'est pas con et j'aime bien l'écouter mais l' optimisme effréné de ces gars là m'inquiète. 

 

et c'est bien cette tendance générale actuelle à la "rationalisation" dans le sens du rendement par la confiance aveugle dans les machines qui est néfaste.

L'homme est la mesure de toute chose

Les grecs n'avaient pas 15 ans de retard mais 2500 ans d'avance...

 

Citation

"Blade runner à coté, c'est les Bisounous !" 

 

..la vache ! on passerait alors dans la "Justice-rendement"...il y a de quoi flipper  ! 

Ouais quelle perspective.

Si une telle situation se pointe 

 

Les grecs n'avaient pas 15 ans de retard mais 2500 ans d'avance...

 

 

Désolé pour le protocole des citations mais c'est la bugue...

 

[charpy]

Oui c'est assez flippant de déshumaniser la justice, être jugé par un robot, quelle horreur. Mais en meme temps pour plein de cas de preuve flagrante (genre flashé en excès de vitesses) ça peut se concevoir et elle serait peut être plus égalitaire. 

 

Citation

...donc ?   qu'est-ce qu'on peut faire ou doit faire, pour aller plus loin...ou ne pas y aller pas ?

à chacun d'y répondre. ça apporte un confort.... dont il faut aussi pouvoir/savoir se passer. Vivre déconnecté.

 

ce n'est pas que pour l'IA : peut on se passer d'électricité? de voiture?

Que se passe t il si on en a plus, brutalement ou meme progressivement en quelques semaines (genre blocage des dépôts pétroliers...)

 

ça nous parait impossible et pourtant en cas de guerre par exemple les centrales font partie des premieres cibles pour couper les communications de l'adversaire. à la dernière guerre "bien de chez nous" il y avait encore des lampes a pétrole dans beaucoup de maisons, et maintenant? une lampe de poche à manivelle? on ne va pas aller bien loin avec ça...

 

Une petite semaine de camping avec 3 fois rien dans un coin sans réseau ça pose déjà quelques idées. Si en plus on a pas accès à la superette / distribanque du coin ça peut vite tourner à la galère.

 

A chacun de voir s'il préfère vivre comme un amish ou un geek.... et il y a peut être un juste milieu entre ces extrêmes.

 

Citation

L'IA n'est pas plus dangereuse que le feu ou un marteau.

Pour moi si, elle est beaucoup plus dangereuse dans le sens ou elle est sensée remplacer/étendre progressivement notre cerveau et pas seulement nos mains...

La question de "perte de contrôle" se pose de façon bien plus grave, et comme toutes nos inventions il y aura surement des pertes de contrôle (ex : incendie dans le cas d'un feu mal maitrisé).

Qu'est ce que ça peut donner avec une IA qui déraille?

 

Je pense qu'on est loin de voir les nuisance potentielles des IA et qu'il est donc très difficile d'imaginer des protections.

voila quelques pistes d'auto régulation dans un article à paraître 

https://arxiv.org/pdf/1711.09883v2.pdf

[syncopatte]

Le 18/04/2018 à 15:55, Leimury a dit :

L'IA est un faux débat, ça n'est ni plus ni moins dangereux qu'une machine ou qu'un être humain.

 

Idem le marteau, qui peut être utilisé comme arme de crime, ou tout simplement pour définitivement éteindre un réveil intelligent mais emmerdant.

 

Patte.

[bang*gib]

[C02]

Il y a 16 heures, charpy a dit :

Oui c'est assez flippant de déshumaniser la justice

 

On y vient, patience...

https://www.ouest-france.fr/societe/justice/justice-une-vaste-reforme-deja-tres-contestee-5710558

Il y a un volet "numérique" à la réforme. Ça sent le sapin.

On entend parler de rapidité, d'"efficacité"...

 

 On y arrive au management algorithmique évoqué dans l'article de Stéphane Larrière !

 

 

Il y a 1 heure, syncopatte a dit :

Le 18/04/2018 à 16:55, Leimury a dit :

L'IA est un faux débat, ça n'est ni plus ni moins dangereux qu'une machine ou qu'un être humain.

 

Idem le marteau, qui peut être utilisé comme arme de crime, ou tout simplement pour définitivement éteindre un réveil intelligent mais emmerdant.

 

Patte.

 

Sans même songer à des outils, il y a les chutes de plain-pied.

Grave les chutes de plain-pied ! Représente 20% des accidents de travail avec arrêt...

 

Sinon y'a aussi l'ulcère de Buruli qui se répand en Australie en ce moment. Ça fait peur. Les scientifiques sont inquiets.

 

Sinon y'a un vrai débat sur l'extinction des espèces aussi : https://www.theguardian.com/science/2018/apr/20/cow-could-soon-be-largest-mammal-left-due-to-human-activity-study-says

On va bientôt se retrouver en tête à tête avec les vaches sur cette planète.

 

Etc...

 

Y'a tellement de débats plus vrais...

[bang*gib]

Bonsoir.

Hier je me disais la m^me chose

...hé bé ...heureusement que la peine de mort est abolie en France !!

 

il y a 8 minutes, patrick60 a dit :

 

...hé bé ...heureusement que la peine de mort est abolie en France !!

Ca me rappelle les "fusillés pour l'exemple" en 1917....une Justice efficace quidizaient...

Ces cons nous envoient droit dans le murs

 

[C02]

https://www.humanite.fr/reforme-belloubet-des-logiciels-la-place-des-juges-mirage-de-la-justice-predictive-654139

https://predictice.com/

[C02]

Après la justice prédictive, l’écriture prédictive...

On ne sait pas trop ce que ça veut dire, mais c'était à prévoir.

https://www.actualitte.com/article/zone-51/la-princesse-et-le-renard-un-conte-de-grimm-signe-l-intelligence-artificielle/88485

J'aimerais bien voir une IA nous pondre un nouveau San-A...

 

Et en parlant d'écriture, cet article d'un "dinosaure d’un monde qui délaisse progressivement l’écriture", sur une rivalité très ancienne entre les deux principaux courants de l'IA,

celui des symbolistes et celui des connexionnistes :

http://www.oezratty.net/wordpress/2018/que-devient-ia-symbolique/

Modifié 21 avril 2018 par C02

[syncopatte]

Et alors? Cette technologie ne permet pas de sortir des vannes à la Nagui.

 

Patte.

 

 

[bang*gib]

Il y a 3 heures, patrick60 a dit :

 

Je me souviens d'un site internet ou à partir de quelques phrases-clés renseigné, l'ordi pouvait pondre un bouquin du genre "polar" par assemblage de paragraphes-types. Sans plus. Pour le reste, je viens de finir à l'instant "l'été meurtrier" de Japrisot : une parfaite maitrise de l'écriture et un style incroyable sur 432 pages.

Pas demain qu'une bécane arrivera à ça...

 

Que ce soit un Japrisot ou un Rembrandt, l'IA ne fait qu'imiter ou recomposer à partir d'élements qui existent déjà. Il n'y a aucune création et elle ne saura - je l'espère - jamais écrire "le Maitre et Maguerite" (Bougalkov) Ce n'est qu'un petit singe savant qui reproduit bêtement pour ébahir les foules...

 

Une IA aurait-elle su et pu prévoir ce que le cerveau d'Albert Einstein avait entrevu par les mathématiques et la Relativité ?

 

Bonsoir à tous.

 

Que ce soit un Japrisot ou un Rembrandt, l'IA ne fait qu'imiter ou recomposer à partir d'élements qui existent déjà. Il n'y a aucune création et elle ne saura

J'ai pas besoin d'être convaincu ...je le suis déjà.

 

Ce n'est qu'un petit singe savant qui reproduit bêtement pour ébahir les foules...

Oui et même tromper comme un éléphant.

L’avantage, si t'es faussaire et que tu bénéficies de subtilités cachées et techniques...

Y aurait un marché à saisir.

Et là tu tombe pour faux et usage de faux.

Ah merde...

Monsieur le juge artificiel ,c'est pas moi qui ai fait le Rembrant c'est...

 

Une IA aurait-elle su et pu prévoir ce que le cerveau d'Albert Einstein avait entrevu par les mathématiques et la Relativité ?

Pour savoir et prévoir il faut une conscience.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

[C02]

Il y a 5 heures, patrick60 a dit :

enfin un qui suit dans l'amphi

 

 

 

Modifié 22 avril 2018 par C02

[bang*gib]

Intéressant je m'en vais lire ça...