Rien de tel qu’une bonne crise existentielle pour stimuler la productivité. Des scientifiques cognitifs suggèrent dans un nouvel article que les machines pourraient modéliser la vulnérabilité humaine afin de prendre de meilleures décisions.
Les humains en mode de survie doivent prendre des décisions complexes aux conséquences désastreuses, et les scientifiques suggèrent que la modélisation de ce mode pourrait ajouter de la profondeur et de « l’émotion » aux machines.
Une machine qui comprend les risques et les menaces pourrait, à son tour, prendre de meilleures décisions pour les soins, l’industrie et plus encore.
Comment faire en sorte que les machines soient plus performantes ? Dites-leur qu’elles peuvent « crever » d’un instant à l’autre. Dans un nouvel article de l’Université de Californie du Sud, des scientifiques affirment que » dans un monde dynamique et imprévisible, un agent intelligent devrait avoir son propre méta-objectif d’auto-préservation « .
Antonio Damasio, chercheur principal, est un éminent chercheur dans le domaine de l’intelligence et du cerveau. Dans son profil à la Edge Foundation, ils disent qu’Antonio Damasio » a apporté une contribution fondamentale à la compréhension des processus cérébraux qui sous-tendent les émotions, les sentiments, la prise de décision et la conscience « . À l’USC, il est codirecteur de l’Institut du cerveau et de la créativité (BCI) avec son épouse, Hanna Damasio.
L’article d’Antonio Damasio, rédigé en collaboration avec Kingson Man, chercheur au BCI, est un modèle fondé sur la philosophie et la science de l’esprit jumelé à l’accumulation de la recherche sur la technologie robotique. Ils ont publié l’article dans Nature Machine Intelligence, un titre qui signifie habituellement « Nature’s[Journal of] Machine Intelligence » mais dans ce cas, étrangement prescient.
Damasio et Man suggèrent que la façon de rendre les robots résilients n’est pas de les rendre impénétrablement forts, mais plutôt de les rendre vulnérables afin d’introduire des idées comme la retenue et la stratégie de préservation de soi. « Si une IA peut utiliser des entrées comme le toucher et la pression, elle peut aussi identifier le danger et le risque pour lui-même « , résume le magazine ScienceAlert.
Cette idée invoque le concept de conception d’un jeu de survie, où un nombre fini de ressources est donné à un nombre déterminé d’acteurs et ils doivent trouver un équilibre ou éliminer leurs concurrents. Le jeu de cartes Shipwreck Arcana 2018 est un bel exemple de jeu de survie coopératif : Pour gagner, au moins une personne doit survivre au naufrage. Vous pouvez partager des ressources pour préserver plus de gens, ou vous pouvez sacrifier les ressources de certains joueurs pour augmenter la probabilité qu’une personne survive.
Un robot qui a le sens de sa propre « santé » n’est pas la chose la plus nouvelle – quand une voiture vous dit que l’huile est basse ou que le moteur surchauffe, c’est un comportement d’auto-conservation directe. Il n’y a tout simplement pas de couche intermédiaire de circuits pour modéliser la pensée ou établir des priorités. Au lieu de cela, la voiture n’a que des capteurs, et ces capteurs signalent les erreurs afin que l’opérateur du véhicule puisse les corriger. Imaginez une voiture qui s’arrête toutes les 10 minutes pour se rafraîchir en tenant compte de votre trajet prévu et de la santé de son moteur.
« Dans certaines conditions, les machines capables de mettre en œuvre un processus ressemblant à l’homéostasie peuvent aussi acquérir une source de motivation et un nouveau moyen d’évaluer le comportement, semblable à celui des sentiments dans les organismes vivants « , disent Damasio et Man dans leur résumé. L’exemple de voiture correspond à cette rubrique. Au lieu d’un capteur qui alerte un étranger à chaque fois, la voiture hypothétique a un « cerveau » pour analyser les différents facteurs qui peuvent tourner mal et la probabilité que chaque scénario se produise.
Les cerveaux humains font ça sans, eh bien, une seconde réflexion. Nos nombreux sens – et non seulement nos cinq sens – alimentent constamment notre cerveau, et nos systèmes corporels s’adaptent en conséquence. Les gens n’aiment pas l’idée que leur cerveau et leur corps sont essentiellement des machines, bien que notre complexité ne sera probablement jamais entièrement comprise par les scientifiques humains. Ce que représente l’article des scientifiques, c’est la façon dont des matériaux de plus en plus complexes et l’informatique rapprochent les machines de notre niveau, et non l’inverse.
https://www.popularmechanics.com/technology/robots/a29831507/robots-mortality/
https://www.nature.com/articles/s42256-019-0103-7
