Intelligence artificielle, risques réels...

[C02]

Une IA capable surpasser JCVD, ça paraît pas si irréaliste.

 

Chuck Norris par contre ça va être coton.

 

Euh après ces conneries on va essayer de relever le niveau...

Modifié 9 avril 2018 par C02

[charpy]

il y a 36 minutes, bang*gib a dit :

Je peux dire aussi que demain un caillou deviendra spontanément intelligent…

Ben non.

 

Pour être intelligent il y a un minimum de critères à respecter notamment le stockage et le traitement d'informations. Ca demande une organisation matérielle qui le permet et de l'énergie. On retrouve tout ça chez les être vivants et dans un ordi (encore qu'ils n'ont pas vraiment d'adaptabilité)  mais pas chez les cailloux.

 

Pour être vivant il faut en plus être pouvoir se reproduire ce dont les ordis sont incapables et pourtant ils ont presque la possibilité de développer une intelligence. Mais pour que la singularité apparaisse il faut du temps, ça peut être pour demain ou dans 2 milliards d'années.

 

Tout ça pour dire que dans la SF ou les prospectives à long terme et n'y a pas que de l'imaginaire mais parfois des bases scientifiques rationnelles. Après il y a beaucoup de tri à faire et plus la science avance plus le tri est drastique. On se rend compte des fausses routes.

[syncopatte]

il y a 8 minutes, charpy a dit :

Ca demande une organisation matérielle qui le permet et de l'énergie.

 

Justement, ce qui distingue le vivant (qu'il soit intelligent ou moins), c'est sa capacité d'extraire de l'énergie de son environnent d'une façon ou d'une autre, mais pas en mettant les doigts dans une prise de courant.

 

A la limite, avant d'être autonomes, les petits sont nourris par les parents.

 

Tu imagines un ordi maman donner la tétée à son rejeton?

 

 

[C02]

Encore tombé dans le panneau de l'anthropocentrisme...

Désolé Charpy si je te l'enlève de la bouche...

Au fait Patte, tu sembles admettre qu'une IA puisse avoir des doigts... on avance...

A pas de tortue mais on avance...

Modifié 9 avril 2018 par C02

[syncopatte]

Si c'est en réaction à ma réponse, j'ai écrit "le vivant" et non "l'être humain".

[bang*gib]

il y a 53 minutes, tictactoc a dit :

"Il faut que tu croies encore plus ce que tu crois,

et quand tu commences à croire ce que tu crois, y'a personne au monde qui peut te bouger !"

c'est de V.d

 

    

[bang*gib]

il y a 46 minutes, charpy a dit :

Pour être intelligent il y a un minimum de critères à respecter notamment le stockage et le traitement d'informations. Ca demande une organisation matérielle qui le permet et de l'énergie. On retrouve tout ça chez les être vivants

il y a 46 minutes, charpy a dit :

et dans un ordi (encore qu'ils n'ont pas vraiment d'adaptabilité)  mais pas chez les cailloux.

.

il y a 46 minutes, charpy a dit :

 

Pour être vivant il faut en plus être pouvoir se reproduire ce dont les ordis sont incapables

 

il y a 46 minutes, charpy a dit :

Mais pour que la singularité apparaisse il faut du temps,

il y a 46 minutes, charpy a dit :

ça peut être pour demain ou dans 2 milliards d'années.

    On en reparlera à ce moment là   

 

il y a 46 minutes, charpy a dit :

Tout ça pour dire que dans la SF ou les prospectives à long terme et n'y a pas que de l'imaginaire mais parfois des bases scientifiques rationnelles

il y a 46 minutes, charpy a dit :

On se rend compte des fausses routes.

 

Là j'avoue que j'ai le choix d'interprétation,pour être honnête je ne suis pas sur de comprendre.

 Edit :

Les smileys c'est parce que je suis d'accord et ça va plus vite

 

[bang*gib]

il y a 54 minutes, charpy a dit :

organisation matérielle qui le permet et de l'énergie.

 

Bon vu que ça déconne un poil,(pour message) je complète ce que j'ai loupé.

Un ordi n'est pas organisé ,on l'organise et on lui file de l'énergie.

il y a 57 minutes, charpy a dit :

mais pas chez les cailloux.

 

Un caillou à tes pieds même inerte ,sa structure reste cohérente par son niveau d'énergie ( ses atomes...).

 

[C02]

J'aime bien ce site, laboiteverte.

 

Le risque de la perfection, ça me rappelle l'aspiration vers la perfection des marchés... un fantasme tenace.

 

Le sujet c'est bien les risques liés à l'IA, que l'expression soit mal choisie ou non, et quelles que soient les réalités qu'elle recouvre, aujourd'hui, ou demain...

L'expression n'est pas fortuite, le fantasme n'en a pas déterminé le choix.

Voir le chapitre "definition" de l'article Wikipedia :

https://fr.m.wikipedia.org/wiki/Intelligence_artificielle

 

Apellons la aujourd'hui "classification automatique de motifs complexes" si on préfère...

https://www.lesechos.fr/idees-debats/cercle/0301524444041-intelligence-artificielle-en-finir-avec-les-mirages-2167227.php

 

Connaissais pas cet observatoire du long terme.

http://longterme.org/

J'espère qu'ils s'abstiennent de fantasmer sur ce site...

 

Patte, l'anthopocentrisme c'était pour "l'ordi maman qui donne la tétée".

Apelle ça mamallocentrisme alors...

Mais t'es vachement à cheval sur l'emploi des termes je trouve.

De ta première phrase on peut déduire qu'un ordi a des doigts.

 

 

Modifié 9 avril 2018 par C02

[tictactoc]

iA

'''''''''''    intelligence artificielle  '''''''''''''', je ne vois pas le rapport avec des doigts, et une reproduction, 

J'ai lut une petite blague qui disait que, si on mesure l'intelligence animale à leur capacité à faire comme nous, y aura problème, non !

si on mesure l’intelligence artificielle à sa capacité à faire comme nous, idem non !

 

[charpy]

il y a 22 minutes, bang*gib a dit :

Bon vu que ça déconne un poil,(pour message) je complète ce que j'ai loupé.

Un ordi n'est pas organisé ,on l'organise et on lui file de l'énergie.

 

Un caillou à tes pieds même inerte ,sa structure reste cohérente par son niveau d'énergie ( ses atomes...).

Je me répète : c'est pas par ce qu'un caillou est organisé (j'ai fait un peu de cristalo, c'était cauchemardesque de complexité) qu'il stocke "volontairement" une information, ni qu'il est ensuite capable de la traiter.

 

enfin je ne pense pas qu'on puisse exclure d'office l'intelligence de tout ce qui n'est pas vivant. je ne vois pas en quoi le fait de ne pas pouvoir se reproduire empêcherait l'intelligence d'apparaitre du moment qu'on a stockage d'info, traitement de l'info et évolution du traitement en fonction des apprentissages.

 

Ca me fait penser à un risque de l'IA incapable de se reproduire physiquement : en plus d'essayer de nous piquer un max d'énergie elle risque aussi d'essayer de nous asservir pour qu'on la reproduise le temps qu'elle trouve le moyen de le faire seule.

 

c'est peut être déjà parti. pourquoi une telle croissance

 

 

[bang*gib]

Les multi citations quelle m….

 

"Je me répète : c'est pas par ce qu'un caillou est organisé"

 

Un caillou est par sa structure fine de la matière organisé.

Un ordi ou autre IA malgré l’apprentissage profond n’est qu’une machine qui produit la partition de l’homme le véritable chef d'orchestre.

Il organise directement la machine et  lui donne un programme évolutif une autonomie.

 

"enfin je ne pense pas qu'on puisse exclure d'office l'intelligence de tout ce qui n'est pas vivant"

 

Bien entendu puisqu'il y en as que dans le vivant.

Les morts peut- être…

 

" qu'on a stockage d'info"

 

Yen a partout dans la nature et le mélange nous a été utile…

 

"apprentissages"

 

C’est une organisation une partition très élaboré de l’homme un usage avec un système logique évolutif prévisible.

Avec un très bon algorithme  l’évolution du système n'est que obligatoire.

Il y’aura forcément des performances extraordinaires, mais c’est tout.

 

"Ca me fait penser à un risque de l'IA incapable de se reproduire"

 

Le risque lié à l’IA, si tout le monde ne sait pas qu’il existe…

Avec la  perfection de leurs  programmes les machines peuvent en fabriquer  d’autres.

Mais là  en cas de bug ou de mauvais usages…

 

Mode science-fiction :

 

En cas de crainte, la disparition du bouton OFF,  un seul remède efficace.

Une bombe électromagnétiques sur les data centers.

Même les centrales nucléaires morfleraient aussi.

Des dégâts collatéraux  sans doute, hôpitaux populations  avec ou sans pacemakers.

 

Tiens ,de ce pas je vais aller me fabriquer une cage de faraday.

 

[bang*gib]

Bonjour à tous.

 

Une analyse plus objective de vos compétences ...

Quoi en penser ?

 

 

[C02]

@bang*gibMerci pour l'info.

 

Elle s'appelle Vera...

 

 

 

http://www.lefigaro.fr/vie-bureau/2018/04/04/09008-20180404ARTFIG00111-vera-le-robot-qui-recrute-dans-les-grands-groupes.php

 

Y'en aura toujours pour y trouver des avantages. Et ça ne fait pas un pli que ça va prendre de l'ampleur.

Enfin, qui vivra verra.

Modifié 10 avril 2018 par C02

[bang*gib]

il y a 37 minutes, patrick60 a dit :

ah oui ? mais ...sauf erreur, la mise à feu du pétard ça se fait de manière électrique donc que se passera-t-il si demain matin, les machines et autres saloperies de joujoux connectés se passent le mot entre eux et prennent avant le contrôle de nos réseaux électriques et autres centrales ou éoliennes qu'on s'évertue à faire fonctionner en smart grid ? Si ces sites sensibles sont censés etre en circuits fermé et autonomes, on a le droit de cauchemarder puisqu'on est en mode SF m'enfin..Stuxnet, c'était pas de la SF  ! 

Le seul remède efficace, c'est de ne pas jouer aux apprentis sorciers.

 

J'y ai pensé à tout ça  et c'est pour cette raison que j'ai mis mode S F, j'aurais du préciser très raccourci.

J'imaginerai une résistance humaine face a cette IA dominatrice .

 Il incomberait à cette résistance la fabrication de bombe électromagnétique "artisanale" pour frapper de manière ciblé ou en masse....

L'auto protection serait les cages en question.

Bien sur l'IA dans une telle singularité aurait "pensé" paré à tout pour se "protéger" continuer à avoir du jus et poursuivre ses sombres fonctions .

Un arrêt de centrale nucléaire  

Mais me... si sur plus de 7 milliard d'individus personne ne bouge,alors là on est cui-cui le petit oiseau joli.

 

"Le seul remède efficace, c'est de ne pas jouer aux apprentis sorciers."

Il n'y aucun doute sur le remède ,mais sur les apprentis sorciers 

 

 

[bang*gib]

Il y a 1 heure, C02 a dit :

@bang*gibMerci pour l'info.

 

Elle s'appelle Vera...

 

 

 

http://www.lefigaro.fr/vie-bureau/2018/04/04/09008-20180404ARTFIG00111-vera-le-robot-qui-recrute-dans-les-grands-groupes.php

 

Y'en aura toujours pour y trouver des avantages. Et ça ne fait pas un pli que ça va prendre de l'ampleur.

Enfin, qui vivra verra.

 

Déjà que j'avais du mal avec les DRH  (eux aussi) entant que représentant du personnel....

Quel tête de Rave.

PS,aucun rapport.

Au fait on va me passer WestWord parait que c'est bien

 

[charpy]

Il y a 18 heures, bang*gib a dit :

Un ordi ou autre IA malgré l’apprentissage profond n’est qu’une machine qui produit la partition de l’homme le véritable chef d'orchestre. Il organise directement la machine et  lui donne un programme évolutif une autonomie.

 

Bien entendu puisqu'il y en as que dans le vivant.

Les morts peut- être…

Tant que c'est l'homme qui choisi les données à moudre et le programme il reste chef d'orchestre mais à partir du moment ou on a une vraie IA qui va choisir elle meme les données, le programme de traitement et même le but recherché (elle se pose spontanément des questions) on aura du souci à se faire.

 

Effectivement comme dit pat, on pense qu'on en est loin (mais on est pas spécialistes non plus) et je en me risquerai pas à avancer une échelle de temps car je trouve que les conditions convergent.

 

Pour le non vivant, l'inerte, je ne pense évidement pas aux ex-vivants qui on perdu toute faculté de traitement d'info et de mémoire (ni aux cailloux du coup) mais aux ordinateurs et assimilés. Effectivement de telles IA seraient vite limitée dans son développement par manque de capacités matérielles au fur et a mesure de leurs croissances en tant que "programme". elles se retrouveraient vite avec un manque de mémoire et de puissance de calcul par rapport à leurs besoins. un win10 sur un 386dx ça risque de rammer un peu.

 

Direction des ressources inhumaines. Voila un beau métier d'avenir pour une IA 

C'est vraiment flippant, bienvenue à Gattaca 2.0.

[syncopatte]

Je suis en train de lire un bouquin traitant de prédictions.

C'est très amusant et souvent étonnant.

Dans ces prédictions, on trouve pas mal de "fin du monde".

 

J'ai l'impression ici de voir les catastrophistes qui se basent sur des écrits bibliques remplacés par des geeks.

 

Histoire de rassurer, le cerveau humain n'est pas près d'être dépassé en performances globales:

https://couleur-science.eu/?d=2015/09/10/19/44/31-quelle-est-la-puissance-de-notre-cerveau

 

Patte.

[bang*gib]

il y a 50 minutes, syncopatte a dit :

Je suis en train de lire un bouquin traitant de prédictions.

C'est très amusant et souvent étonnant.

Dans ces prédictions, on trouve pas mal de "fin du monde".

 

J'ai l'impression ici de voir les catastrophistes qui se basent sur des écrits bibliques remplacés par des geeks.

 

Histoire de rassurer, le cerveau humain n'est pas près d'être dépassé en performances globales:

https://couleur-science.eu/?d=2015/09/10/19/44/31-quelle-est-la-puissance-de-notre-cerveau

 

Patte.

 

Mais quel excellent article.

 Le cerveau humain, on ne fait pas mieux.

 

Il y a aussi parmi le vivant, des animaux (intelligents) qui voient dans des longueurs d'ondes qu'on ne voit pas, qui reniflent au delà de nos capacité(100000 fois plus) ou qui entendent ...très bien,ultrasons infrasons...

[snake59]

Je vous invite a voir l homme bicentenaire , un superbe film basé sur un robot intelligent avec robins williams , bien qu il apporte une avancée incroyable en médecine et tout ,  son rêve d évoluer , de liberté le pousse a sacrifier son immortalité ( si on peut dire comparait a nous ) car au final ce qui caractérise la vie ,...bin c est la mort , hors un ordinateur ne meurt pas donc ne peut etre defini comme vivant comme tout animaux ou vie sur terres . 

Une ia , reste aux final qu une avancée technologique independant ou pas ,on peut pas lui attribuer le termes vivant , car vous oubliez que peu.importe la forme ou l evolution pris par l ia , sa reste que des zeros ou des uns , enlever un zero ou un un l ia déraille , enlever un bras a un humains on s adapte 🙌

[charpy]

il y a 28 minutes, patrick60 a dit :

 il y a de forte chance pour qu'on se fasse bouffer tout cru en un rien de temps...

Non vu qu'elle en pourra pas sortir de son carcan de silicium. c'est tout ce qui contient "du numérique" qui risque de se faire bouffer : portables, ordis, tablettes, voitures, satellites....

On risque de se retrouver 50ans en arrière, d'où l'intérêt de garder un minimum d'indépendance vis à vis de nos esclaves modernes.

D'ailleurs une très forte éruption solaire pourrait faire sensiblement le meme effet mais de façon temporaire.

 

Mais il y a encore plein d'humains qui ne seront pas du tout impactés, en Afrique notamment. Pour en revenir au débat biblique, les derniers seront les premiers  

 

le cerveau humain n'est pas dépassé en tout, chacun ses spécificités de traitement mais quand meme l'écart se resserre. Nos qualités, comme le traitement massif et rapide des images sont aussi des faiblesses car on se fait facilement piéger par des illutions optiques mais pas une machine.

http://www.lepetitarchimede.fr/ha/old/revues/numero7/t31illusions/t31illusions.htm

 

quand à l'ADN notre génome utile ne fait que quelques dizaines de Mo d'info. les chromosomes représentent en gros 400Mo dont la plupart (90%) n'est pas codante.

Modifié 10 avril 2018 par charpy

[bang*gib]

 

il y a 7 minutes, snake59 a dit :

Je vous invite a voir l homme bicentenaire , un superbe film basé sur un robot intelligent avec robins williams , bien qu il apporte une avancée incroyable en médecine et tout ,  son rêve d évoluer , de liberté le pousse a sacrifier son immortalité ( si on peut dire comparait a nous ) car au final ce qui caractérise la vie ,...bin c est la mort , hors un ordinateur ne meurt pas donc ne peut etre defini comme vivant comme tout animaux ou vie sur terres . 

Une ia , reste aux final qu une avancée technologique independant ou pas ,on peut pas lui attribuer le termes vivant , car vous oubliez que peu.importe la forme ou l evolution pris par l ia , sa reste que des zeros ou des uns , enlever un zero ou un un l ia déraille , enlever un bras a un humains on s adapte 🙌

 Cyrilounet, parlait plus haut de ligne de code.

 

J'avais écrit (comparé)mais pas posté à propos d'une ligne de code enlevé dans un programme et un cerveau lésé qui se (retape) se régénère.

La plasticité du cerveau dans cette situation est extra ordinaire.J'ai quelques liens vidéo ...

 

 

[bang*gib]

Il y a 1 heure, charpy a dit :

 ou on a une vraie IA qui va choisir elle meme les données, le programme de traitement et même le but recherché (elle se pose spontanément des questions) on aura du souci à se faire.

 

Oui dans l’hypothèse  on peut tout imaginer, cette singularité tient de l'improbable.

 

Il y a 1 heure, charpy a dit :

Effectivement comme dit pat, on pense qu'on en est loin (mais on est pas spécialistes non plus) et je en me risquerai pas à avancer une échelle de temps car je trouve que les conditions convergent.

 

(mais on est pas spécialistes non plus)

Oui ,et  je resterai humble et ne  prétendrai pas non plus que tel physicien ou mathématicien ou autre scientifique est dans  l'erreur et que c'est nous qui détenons "la vérité".

[syncopatte]

il y a une heure, bang*gib a dit :

Il y a aussi parmi le vivant, des animaux (intelligents) qui voient dans des longueurs d'ondes qu'on ne voit pas, qui reniflent au delà de nos capacité(100000 fois plus) ou qui entendent ...très bien,ultrasons infrasons...

 

L'homme, avec son merveilleux cerveau, parvient à inventer et construire des engins capables de percevoir au delà de ses capacités naturelles.

 

Un télescope par exemple, un chromatographe, un microscope électronique et j'en passe.

 

 

[bang*gib]

il y a 5 minutes, syncopatte a dit :

 

L'homme, avec son merveilleux cerveau, parvient à inventer et construire des engins capables de percevoir au delà de ses capacités naturelles.

 

Un télescope par exemple, un chromatographe, un microscope électronique et j'en passe.

 

 

 

Oui il a de l'astuce le bougre jusqu'à  aller voir l'invisible.

[charpy]

Alors avant la révolution industrielle il n'y avait que des crétins à part qq artistes, scientifiques et écrivains? C'est par ce qu'on un smartphone dans les mains (au volant tant qu'a faire) qu'on est devenu moins con?

Ne pas confondre technologie et intelligence SVP. L'intelligence c'est probablement pas nouveau, la technologie oui, mais ça peut facilement se mettre au service de la connerie. Genre le dernier 4x4 à Paris...

 

Idem sur le combat homme-machine. Le meilleur calculateur peut battre chaque meilleur humain dans sa discipline (échec ou au jeu de go), mais l'ordi moyen avec quelques programme de base bat la très grande majorités des humains moyen à ces meme jeux. J'ai souvenir de branlées monumentales aux échecs contre un pauvre plateau de jeu électronique des années 90 lorsque je le mettait en difficulté maximale (mode 9 sur 9).

[VNA]

Le 3/31/2018 à 06:06, C02 a dit :

Et une vidéo du Isaac Asimov memorial debate 2018, organisé par le American museum of national history, et présenté par Neil deGrasse Tyson

 

Museum of National History???

Museum of Natural History ; - ) 

 

[C02]

A force de simuler des imperfections on en devient imparfait...

 

@snake59

"Pas de bras, pas d'IA"...

Y'en a qui n'ont pas vu le docu "Trust my computer"...

Modifié 11 avril 2018 par C02

[tictactoc]

Le 10/04/2018 à 20:50, snake59 a dit :

Une ia , reste aux final qu une avancée technologique independant ou pas ,on peut pas lui attribuer le termes vivant , car vous oubliez que peu.importe la forme ou l evolution pris par l ia , sa reste que des zeros ou des uns , enlever un zero ou un un l ia déraille , enlever un bras a un humains on s adapte 🙌

 

Je ne vois  pas le rapport, si tu te prend une raclée au Echec contre un ordinateur, quelle importance que cela ne soit que des 0 et des 1 !   tu tes pris une raclée!  point. Il a été plus fort que toi. Que cela plaise ou non, c'est un fait.

 

Une IA qui aurait une intelligence où " assimiler intelligence" lui donnant des capacités de survie par l'adaptation a un environnement qui changent, et une reproduction où assimilé avec variation ne me semble pas si lointain en informatique.

Il me semble avoir déjà vue des programmes de locomotion en robotique qui, à partir d'un modèle de robot de base, lui faisant passer des test de locomotion évolutif, on enlève  une patte a un hexapode, on regarde le quel survie,  descendance  avec variation, test,  modification de programme, test, etc . Je ne sais pas si je suis très clair 

De la même manière que l'évolution agis sur le vivant.

On peut toujours dire qu'une IA cela peut se débrancher, oui c'est sur !    sauf quant on est  dépendant d'elle. Facile a dire.

 

Modifié 12 avril 2018 par tictactoc

[syncopatte]

Une machine qui me donne une raclée aux échecs, j'ai déjà eu affaire.

 

Cependant elle est incapable de cuire un œuf.

 

Arrêtez d'en faire tout un plat!

 

Patte.