@perlseb
’’Ces systèmes ont des comportements qui surprennent : ils peuvent mentir,
faire du chantage (même si on ne leur a jamais « codé » ce genre de
choses qui émergent spontanément), et parfois, il peuvent répondre faux
mais être capables de répondre juste si la question est posée
différemment ou si le contexte change’’
— >
Je dirai que nous avons l’impression qu’ils mentent, ou font du chantage. Nuance.
Quant à répondre faux, c’est une autre affaire : ces systèmes sont inconséquents.
La plus grosse erreur que nous fassions à leur sujet c’est de croire qu’ils fonctionnent dans la même temporalité que nous. Or rien n’est plus faux : ces systèmes d’IA conversationnels n’ont aucune notion de la durée. Ce qui explique leur inconséquence rhédibitoire.
Et ce qui par ailleurs remarquable, c’est que la plupart des infos que nous trouvons sur le Web ne sont pas datées, ni quant aux faits exposés ni quant à la date de publication leur publication.