perlseb

@lecoindubonsens
Votre exemple de générateur de programme est trivial. Ce que vous obtenez à l’arrivée a été généré par un programme mais reste compréhensible, puisque c’est encore un programme.
Je maintiens qu’un réseau neuronal est une boite noire, qu’on ne peut plus chercher à comprendre. La machine donne une réponse à partir d’une entrée, c’est tout ce que l’on peut comprendre, mais on ne sait plus pourquoi. On peut tracer le chemin d’une entrée à travers ses 100.000 neurones ou à travers ses 1 milliards de neurones. Et ça nous avancerait à quoi dans la compréhension du réseau neuronal ? A rien. Il y a trop d’entités pour les réseaux neuronaux complexes qu’on crée aujourd’hui.

Donc à terme, une machine pourra nous dire des choses vraies, qu’on ne pourra pas comprendre. On pourra éventuellement le mettre en pratique (si le résultat est un matériel réalisable) et on aura le premier élément conçu par une machine qu’on ne comprendra pas. Peut-être qu’on mettra 10 ans à comprendre ce premier matériel, mais la machine aura inventé 1 million de choses entre temps et là, ça sera tout simplement inaccessible à l’humain.
Peut-être que ça n’arrivera pas avant 200 ans, qu’on se sera détruit d’une autre manière. Mais le scénario de l’IA est celui que je décris : une perte totale de contrôle. Et elle commence déjà : les réponses de l’IA commencent à nous surprendre (pour ceux qui s’intéressent au sujet en le comprenant un minimum, pour les convaincus que l’homme est au centre de l’univers, il n’y a aucun souci, évidemment).

@Xenozoid
Ne crois pas que tout ça m’excite. Pour moi, l’IA signe la fin de l’homme avec de nombreux scénarios possibles. Le plus probable : une grosse épidémie pour éliminer tous les inutiles que nous deviendrons.
Je suis juste au courant compte tenu de ma formation et l’IA n’est pas juste une invention de plus avec laquelle il faudra vivre, c’est la dernière de l’homme.
Mais vue la période ambiante, serait-ce une mauvaise chose si l’homme était broyé pas sa propre invention ? Que les décideurs décident pour le troupeau et voyons voir où ça nous mène...

@Xenozoid
dépassée quoi ?
Il faut faire un calcul bête. L’œil à 125 millions de récepteurs. Une image 4K a déjà plus de 8 millions de pixels sans parler du codage de la couleur. Donc une image numérisée 4K a grosso modo la quantité d’information que notre œil peut nous retransmettre.
Je compare juste la finesse (complexité) du signal qu’une machine ou un humain peut accepter en entrée.
Et les derniers réseaux neuronaux avec plusieurs trillons de neurones peuvent avoir une couche d’entrée de 125 millions de neurones-récepteurs, ou plus, pourquoi pas...

@Xenozoid
Je croyais que ma réponse était claire. En fait, tant que l’IA progresse, on se moque complètement de la différence entre les neurones artificiels (qu’on simule la plupart du temps, toujours pour les réseaux neuronaux gigantesques) et les neurones vivants.
Il y a surement des spécialistes qui créent des nouveaux types de neurones artificiels, mais pas forcément en s’inspirant de la nature. Plutôt pour augmenter l’efficacité des réseaux neuronaux actuels.

@pemile
Dans le cas d’images ou de sons, les données ne sont que des images et des sons numérisés, non ?
Oui, les réseaux de neurones travaillent avec des données numérisées. Simplement parce qu’elles possèdent forcément un nombre fini de neurones en entrée et que le signal en entrée du réseau ne peut pas être codé avec plus d’éléments que cette couche.

Mais ne mésestimez pas les machines sur cette limitation. Pour notre vision, nous voyons également en « discret » (par pixels) avec notre rétine (125 millions de photorécepteurs). Donc nous aussi, nous numérisons nos entrées (nos neurones sont également limités avec des limites que les machines commencent à égaler et qu’elles vont, fatalement, dépassées).