Intelligence artificielle, risques réels...

[C02]

il y a 13 minutes, syncopatte a dit :

Je ne vais plus "troller" sur ce sujet, n'ayant rien d'autre à dire

 

Ou tu trollais parce que tu n'avais rien à dire.

 

A+

 

PS : j'avais pas vu ton PS...

 

" PS: merci en tout cas! Ce sont de très intéressantes voies à cogiter! "

 

J'avais mal compris le "Bref : des conneries" d'un précédent message.

 

Mais merci d'avoir participé, et peut être ouvert la voie à de nouvelles voies de cogitation.

Modifié 7 avril 2018 par C02

[charpy]

Il y a 2 heures, syncopatte a dit :

Peut-être que ce sera le cas pour ceusses qui croivent dans le développement fulgurant de l'IA.

 

Personnellement je considère tout ce schmillblick (tiens? qui pourrait inventer un mot pareil?) comme un affront à l'égard du vivant.

 ça me fait bien marrer ce négationnisme "à priori" à l'égard de l'intelligence artificielle...

 

c'est comme si on disait il y a 4milliard d'année c'est pas possible qu'il sorte des systèmes chimiques  autoentretenus de cette soupe sur terre...

ou il y a 700millions d'année c'est pas possible que ces bactéries unicellulaires arrivent à produire des êtres organisés et intelligents...

 

les fameuses singularités impossibles... et pourtant. s'il ya le support et les conditions ça fini par arriver.

d'ailleurs on arrive vite au créationnisme car avec les mêmes raisonnements qui nient la possibilité d'une singularité  la vie et l'intelligences NE peuvent PAS apparaître spontanément.

 

en IA on a justement les 2 supports qui commencent à murir de pair  : le stockage d'info (adn du vivant) et le traitement des infos (cycles chimiques du vivant). Pour moi les feux sont en train de passer au vert pour cette fameuse singularité. Et je penses que l'intelligence artificielle naitra d'elle meme à force de programme s'auto-complexifiant.

Il n'y aura pas d'inventeur proprement dit, c'est juste une vision anthropocentré... la vie n'a pas eu besoin d'inventeur, ni l'intelligence, ni la connerie (le stade d'évolution suprême)

 

par contre il y aura toujours besoin d'une importante source d'énergie. C'est que qui a retardé l'apparition des êtres pluricellulaires à priori, il fallait de l'O2 pour avoir un métabolisme plus puissant et franchir un cap de complexification. De ce coté la vu notre utilisation énergétique on est bon pour passer le cap suivant.

 

il manquera plus que la capacité d'auto-construction / réplication physique des machines pour finir l'apparition d'un eco-système. mais pour l'instant ça a un sacré retard sur le reste et elle apparaitra probablement sous une forme complètement inattendue.

est ce que ce sera organique / silicium / métallique et quantique?

est ce que ce sera des êtres indépendants ou filamentaires ou coopératifs comme le mycélium ou symbiotique entre plusieurs formes?

Modifié 7 avril 2018 par charpy

[syncopatte]

Dernière intervention: on nage en plein délire là!

 

Allez, y a une forme d'IA qui va organiser le travail pour récolter les matières premières, pourvoir l'énergie, les transporter vers  les centres de traitement,  les transformer, les mettre dans une chaîne de montage, les utiliser pour la vente?

 

Tiens? Quel est le modèle économique de nos futurs "ennemis" d'IA?

 

Tout cela bien entendu sans l'intervention de l'homme.

Et dans l'histoire de l'humanité, fallait pas mal d'échanges en connaissances et transport de matériaux pour réaliser les progrès.

Faudrait m'expliquer comment de l'IA puisse organiser ce genre de révolution.

[C02]

[C02]

il y a 22 minutes, syncopatte a dit :

Quel est le modèle économique de nos futurs "ennemis" d'IA?

 

Maximiser la production de trombones probablement... (voir Nick Bostrom)

 

https://en.wikipedia.org/wiki/Instrumental_convergence

 

@charpy J'aime bien les analogies que tu proposes

 

Au fait, comment font certains pour modifier leurs messages sans que la mention "modifié il y a..." n'apparaisse ensuite en bas de message ?...

[syncopatte]

il y a 10 minutes, C02 a dit :

Au fait, comment font certains pour modifier leurs messages sans que la mention "modifié il y a..." n'apparaisse ensuite en bas de message ?...

 

Avec un peu de maîtrise d'IT.

[C02]

il y a 5 minutes, syncopatte a dit :

Avec un peu de maîtrise d'IT.

 

Pas sûr que les termes soient bien choisis.

Ça manque un peu d'égalIT de traitement je trouve.

Mais c'est à la mode l'inégalité.

Sur ce, je vais grailler.

Bon app

[syncopatte]

Merde! Je suis démasqué (me semble-t-il)!

 

C zéro 2: depuis ton arrivée sur WA, tu m'intrigues.

Puis-je devenir ton ami? (faudra accepter que je dise "zéro" au lieu de "O")

 

Patte.

 

 

 

 

[charpy]

il y a 56 minutes, syncopatte a dit :

Tiens? Quel est le modèle économique de nos futurs "ennemis" d'IA?

on nage aussi en plein anthropocentrisme.

 

tu connais beaucoup d'autres espèces vivantes qui ont des modèles économiques et des monnaies?

comment ont fait les bactéries pour se développer sans croissance économique?

 

je te dis justement qu'a partir d'un certain niveau de complexité ça me parait logique qu'une IA autonome puisse apparaître spontanément d'une singularité et vivre sa vie. on peut légiférer autant qu'on veut, mettre autant de "règles de la robotique" qu'on veut elle n'en aura rien à faire.

 

je vois plus ça comme du parasitisme, de l'ordre du virus informatique vu qu'il faut un support matériel... après tout les premières bactéries ne sont que des parasites de la "soupe primitive", l'intelligence biologique est apparue pour améliorer les stratégies de prédation, améliorer sa survie.

 

sinon je suis d'accord avec toi que tout ce qu'on nomme intelligence artificielle actuellement est très loin de la vraie IA c'est pour vendre du média, se faire de la pub et faire tourner notre modèle économique.

[syncopatte]

Chouette, on se rapproche!

 

Charpy, C02: ne prenez pas ombrage!

 

 

C'est au programme ce soir!

[charpy]

un peu de lecture récente sur l'évolution et son moteur (l'énergie)

https://books.google.fr/books?id=8rSpCwAAQBAJ

 

je t'accompagne avec un thé à la menthe (du jardin) au coin de la cheminée 

c'est surtout le ciel dégagé qui va me manquer, en tant que belge t'as du avoir ton quota de nuages par le passé.

Modifié 7 avril 2018 par charpy

[C02]

il y a une heure, syncopatte a dit :

C zéro 2: depuis ton arrivée sur WA, tu m'intrigues.

Puis-je devenir ton ami? (faudra accepter que je dise "zéro" au lieu de "O")

 

J'ai réussi le test de Turing !

Je ne suis pas un gaz.

[bang*gib]

Bonsoir à tous.

 

Vue la tournure exponentielle prise par l'échange,une crainte naît en moi.

Tant d’interventions passionnantes  pour ne pas dire passionnées s’additionnent et forcément on manque à des réponses pour ne pas se faire larguer. J'ai viré une grosse parti ...pour l'essentiel.

 

L’intelligence peut-elle devenir artificielle ?

 Entretien avec Yann Le Cun, directeur du laboratoire d'intelligence artificielle du réseau social Facebook.

 https://www.franceculture.fr/emissions/la-conversation-scientifique/lintelligence-peut-elle-devenir-artificielle

 « …En d’autres termes, le silicium écrase parfois le neurone. Nous sommes donc des êtres imparfaits, du moins en certains domaines, et nous ne pouvons pas prétendre que nous ne le savons pas. Dès lors, pourrions-nous être tentés d’abandonner notre idéal d’autonomie et de nous confier à la perfection de machines qui pourraient nous relayer, qui pourraient choisir, décider et peut-être même penser à notre place ? »  

 

5 minutes de lecture.

https://www.nouveau-magazine-litteraire.com/idees/jean-gabriel-ganascia-intelligence-artificielle-singularite-robot

 

 

 Edit:

@ CO2

"Pour résumer je reste un peu sur ma faim à l'issue de la lecture du dossier de philosophie magazine.

Il aurait fallu consacrer un numéro entier.

Le petit cahier sur Pascal est pas mal."

 

Pas encore lu "Esprit de géométrie ou de finesse"

 

[charpy]

Très bien ce dernier article!

le truc c'est qu'on ramène toujours la machine en tant qu'outil qui rend service à l'homme mais que le jour ou une IA arrive à avoir conscience d'elle meme elle voudra surement "s'émanciper" et vivre "sa vie" indépendamment.

 

voila aussi un débat qui précise pas mal de chose sur "intelligence" et IA

https://www.franceculture.fr/conferences/college-des-bernardins/intelligence-est-elle-cognitive-corporelle-emotionnelle-ou-algorithmique

 

C02 tu est peut être la plus maline des IA... tu n'es qu'une ligne de COde qui aime les jeux de mots, avec de bons agglo de deep learning sur internet... 

Modifié 7 avril 2018 par charpy

[C02]

 

Je panse, donc sushi

Modifié 8 avril 2018 par C02
recette de sushi

[syncopatte]

il y a une heure, charpy a dit :

le jour ou une IA arrive à avoir conscience d'elle meme elle voudra surement "s'émanciper" et vivre "sa vie" indépendamment.

 

Et créer un parti politique, un syndicat, un groupe d'opposition, une puissance économique, une voie de pensée, un mouvement culturel...

C'est cela oui. Quand les poules pondront des  lingots! 

 

Je ne pige pas comment on peut adhérer à de telles inepties.

 

Patte.

[C02]

Merci pour l'article du Times.

L'article cause du cas chinois aussi, qui n'est pas moins inquiétant...

Quand je lis que même les lépreux doivent scanner leurs empreintes digitales et leurs iris pour obtenir leurs allocs, alors même que la maladie engendre de graves lésions au niveau des doigts et des yeux et rend la chose impossible, ça me troue le cul ! Si tant est qu'une IA puisse avoir un cul.

A la place de l'auteur de l'article, je ne parlerais pas du "Modi government", mais du gouvernement maudit...

 

En restant sur Big Bro', v'là une autre sympathique évolution : https://www.marianne.net/monde/le-tres-inquietant-pouvoir-de-palantir-la-boite-melee-au-scandale-facebook-la-nsa-et-la-dgsi

Macron s'en inquiète, mais pour mieux le remplacer... je suggère Panoramix.

Le rapport Villani n'augure rien de bon à ce niveau là.

[bang*gib]

Il y a 2 heures, C02 a dit :

Si tant est qu'une IA puisse avoir un cul.

 

Dommage pour ce néant,  une bombinette électromagnétique aurait trouvé sa place.

[C02]

En parlant de bombes : https://www.nytimes.com/2018/04/04/technology/google-letter-ceo-pentagon-project.html

 

Sinon, un docu, pas encore vu : Do You Trust This Computer ?

Recommandé par Musk...

Le trailer :

 

 

Faut vite que j'aille acheter le bouquin de Ganascia !

[syncopatte]

Au plus petit le processeur, au plus grosses les lettres.

 

Cela se compense. La nature est bien faite!

 

Sinon, ce micro micro truc fonctionne combien de temps dans l'obscurité?

Y a quand-même de quoi ne pas s'inquiéter sur le risque de se voir surpasser par l'IA: nous, on bouffe et ça roule.

Les machins, quant-à eux, ont besoin d'électricité (et ça, au vu du nombre de fois que je dois recharger mon ordi, c'est plutôt rassurant).

 

Patte.

 

PS: ah merde, j'avais promis de ne plus venir mettre mon grain de sel dans cette discussion.

[C02]

Il y a 4 heures, syncopatte a dit :

PS: ah merde, j'avais promis de ne plus venir mettre mon grain de sel dans cette discussion.

 

Ou plutôt grain de sable...

 

C'est la prochaine étape le grain de sable d'ailleurs.

Même chose pour les cellules photovoltaïques.

 

Quand t'auras sous les pieds un océan de processeurs alimentés au solaire, du Sahara jusqu'au Gobi, tu feras moins le fier...

 

Je sens d'ailleurs à travers tes bravades une certaine inquiétude.

 

😄 (rire de jeff bezos)

[charpy]

Il y a 23 heures, syncopatte a dit :

Je ne pige pas comment on peut adhérer à de telles inepties.

de mon coté je ne pige pas comment un astram peut autant rester anthropocentré.

 

est ce que la vie à eu besoin de partis politiques, musique, littérature, économie, monnaie pour se développer, se complexifier etc...

 

ce sont juste nos joujoux anthropiques. aucune autre espèce n'en à rien à secouer... pour apprendre à faire de la musique les oiseaux et les baleines n'ont pas eu besoin de cours particuliers de chant, avec une progression organisés, avec solfège et payants pour coller à un modèle économique!

 

on est plutôt l'exception même s'il y a d'autres bestioles sociales qui sont aussi drôlement organisées à leur façon. et il faudrait qu'une IA soit exceptionnelle comme nous???

Pourtant un astram sait en principe qu'il existent des mondes différents du notre et que rien ne s'oppose à ce que d'autres singularités aient pu apparaître ailleurs pour donner d'autres formes de vie. la cellule est probablement assez universelle mais l'ADN par exemple pourrait être remplacé par beaucoup d'autres chaines de molécules.

rappelle toi les bouquins de jules vernes ou ils imaginaient des mondes incroyables un peu partout. depuis ont sait que la vie est effectivement partout sur terre des dorsales océaniques à la neige polaire mais avec des formes qu'on était loin d'imaginer.

 

il y a pas mal de bouquins de SF qui repartent de l'essentiel : il faut de la matière et de l'énergie pour pouvoir croitre. De là sont partis les histoires de sphère de Dyson and co.

La ruée vers l'or  ou tout autre "épice" c'est encore anthropocentré. Aucune autre espèce n'a que faire d'un métal qui ne se mange pas. c'est juste le désir de pouvoir, de puissance. Iidem pour le coté "j'ai plus d'énergie" de la puce IBM. Qu'est ce qu'on s'en fout quand on est en silicium quasi inusable donc immortel. le "boulot" pas fait aujourd'hui sera fait demain quand le soleil sera revenu. C'est comme ça que les tortues et crocodiles ont survécu aux dinos : l'hibernation ou le métabolisme ralenti à l'extreme jusqu'à ce que les conditions redeviennent viables. idem pour les tardigrades. bref le manque temporaire d'énergie n'est pas un motif de sélection. Le besoin continu d'énergie que l'on a est une sacré faiblesse, un mois sans bouffer et il n'y a plus grand monde... et c'était la régulier il n'y a pas si longtemps que ça au moyen age.

 

à ta place je serais pas tranquille dans le désert . il y a du soleil et de la silice : ce serait l'endroit idéal pour qu'une puce de la taille d'un grain de sable aille se planquer pour pulluler sans être emmerdé. Faudrait que tu vérifie à la loupe que tous les grains de sable sont bien inertes et si un jour ça te picote aux pieds c'est que la guerre contre les machines commence 

EDIT meme idée que C02 

 

tous les usages déviants de l'IA dont vous avez parlé sont pensés, et conçus volontairement par certains humais pour mieux contrôler les autres... Il est peu probable qu'une IA spontanée soit aussi mal intentionnée à l'égard de l'homme. 

Modifié 8 avril 2018 par charpy

[syncopatte]

Il y a 16 heures, charpy a dit :

ce sont juste nos joujoux anthropiques. aucune autre espèce n'en à rien à secouer... pour apprendre à faire de la musique les oiseaux et les baleines n'ont pas eu besoin de cours particuliers de chant, avec une progression organisés, avec solfège et payants pour coller à un modèle économique!

 

on est plutôt l'exception même s'il y a d'autres bestioles sociales qui sont aussi drôlement organisées à leur façon. et il faudrait qu'une IA soit exceptionnelle comme nous???

 

Tu te réponds à toi-même!

 

Il y  a de la marge entre le chant d'un rossignol et Rossini

Parler d'intelligence de la part des machins  est amusant...

Craindre une suprématie me semble complètement débile.

 

Patte.

[Vivlepic]

Il y a 16 heures, charpy a dit :

pour apprendre à faire de la musique les oiseaux et les baleines n'ont pas eu besoin de cours particuliers de chant,

C'est toi qui le prétends...

O. Messiaen a certes transcrit des chants d'oiseaux dans certaines de ses oeuvres qui sont musicales mais cela ne fait pas pour autant des cris d'animaux des oeuvres musicales, artistiques, dont nous sommes bien souvent éloignés de percevoir les finalités.

Modifié 9 avril 2018 par Vivlepic
Texte incomplet.

[tictactoc]

Le 07/04/2018 à 19:41, charpy a dit :

je te dis justement qu'a partir d'un certain niveau de complexité ça me parait logique qu'une IA autonome puisse apparaître spontanément d'une singularité et vivre sa vie. on peut légiférer autant qu'on veut, mettre autant de "règles de la robotique" qu'on veut elle n'en aura rien à faire.

 

 

De toute façon on est bien d'accort !

le fait que certain refuse absolument cette idée, n’empêchera pas cette idée d’arriver, si elle doit arriver.

Je pense même que c'est en la pensant possible que l'on peut si préparer.

Faire l'autruche, je vois pas bien l’intérêt  

[Great gig in the sky]

Il y a 17 heures, charpy a dit :

pour apprendre à faire de la musique les oiseaux et les baleines n'ont pas eu besoin de cours particuliers de chant, avec une progression organisés, avec solfège et payants pour coller à un modèle économique!

 

Pour réduire  la musique à "des cours particuliers et payants", c'est avoir une vision bien étriquée de ce que sont la musique et l'art en général. 

T'as pas dû réfléchir trop longtemps à ce que tu as écris là, Charpy ! ( une IA aurait-elle fait mieux ? ). 

Et comme diraient Django Reinhardt et Stevie Wonder, le solfège, qu'est-ce qu'on en a à  battre ! 

 

[charpy]

Tu te trompes ca fait plus de 30ans que je joue et apprécie la musique ( live de preference). Je me suis enfin mis au piano et au solfége cet hiver entre autre pour jouer ggits  Ca fait des années que ce morceaux me titille.

Mes exemples etaient volontairement ultra-reducteur à l'aspect "organisé sciement  par l'homme" pour avoir une légitimité chére a pat et un modele économique.

 

En piano qui est mon dada du moment j'adore les initiatives "piano on the street" qu'on trouve facilement sur youtube. Des pros parmis les meilleurs ont joué le jeu de se mettre gratos ou presque dans la foule, et inversement on découvre des musiciens talentueux derriere des badaux anonymes!

 

Je dis juste que Notre Art laisse probablement de marbre les autres especes et inversement si d'autres especes on devellopé un art particulier ( musique des oiseaux, danse des dauphins....) on est surement loin de pouvoir comprendre ce que c'est avec nos referentiels et notre culture humaine et encore moins capable d'apprécier à leur juste valeurs ces formes d'art.

Faut lacher du lest sur l'anthropocentrisme qui nous aveugle.

[syncopatte]

il y a 33 minutes, charpy a dit :

Faut lacher du lest sur l'anthropocentrisme qui nous aveugle.

Non: l'IA est à des années lumière d'arriver à nos capacités innées (et de celles d'autres animaux)

Faut lâcher du lest sur la possible suprématie de l'IA.

 

Ce n'est qu'une bonne idée pour des scénarios de SF et autres belles histoires.

 

Puis, le créateur (de la machine) n'est-il pas forcément mieux placé pour décider du sort de sa création?

Golem, Frankenstein...cela se termine bien en général, contrairement aux histoires d'amour.

 

Patte.

 

PS: la récolte des données, le phénomène "big brother" qui est  bien réel, ne sont à mon avis pas de l'IA, mais du humain bien déterminé!

[bang*gib]

Il y a 2 heures, tictactoc a dit :

 

 

De toute façon on est bien d'accort !

le fait que certain refuse absolument cette idée, n’empêchera pas cette idée d’arriver, si elle doit arriver.

Je pense même que c'est en la pensant possible que l'on peut si préparer.

Faire l'autruche, je vois pas bien l’intérêt  

 

Bonsoir à tous.

 

Oui tout à fait d’accord pour une génération spontanée de robots ou autres...avec une conscience à partir du moment qu’elle fut issue d’une singularité.

Mais voilà, par essence  la  singularité est une expérience impossible. Faut  explorer  ,et, si le niveau de  complexité n’est avéré il n’existe pas et se perd dans les limbes .

 

On peut accepter ou refuser toutes les idées seules la vérification conte.

Je peux dire aussi que demain un caillou deviendra spontanément intelligent…

D’ailleurs ne dit-on pas  ce mec ou cette femme quel caillou.

Pour être vivant faut une conscience mais  pour un caillou ou un calculateur le plus abouti…

Pour la génération spontanée de l’IA consciente c’est loupé, elle est déjà là  bien que bougeant mais  sans vie.

C'est un désordre logique ...

 

Oui mais où  sont les autruches ?

 

Pour le reste j’ai l’impression de relire un recueil  philosophique de Van Damme.

 

 

 

 

 

 

 

[tictactoc]

"Il faut que tu croies encore plus ce que tu crois,

et quand tu commences à croire ce que tu crois, y'a personne au monde qui peut te bouger !"

c'est de V.d