Faut-il craindre les machines ? - publié le 03/09/2020

Résumé du document

Dans le roman 1984, de George Orwell, les personnages sont observés quotidiennement par des « télécrans ». Où qu'ils soient et quoi qu'ils fassent, le pouvoir politique est en mesure de les surveiller à travers des machines ; la technologie est au service du totalitarisme.

Extraits

[...] Il est donc possible de se sentir dépassé, vulnérable, dans un monde où les machines sont de plus en plus présentes, sophistiquées, et difficiles à comprendre. Doit-on donc avoir peur des machines, et que craint-on à travers elles ? S'il est certain que la machine, en tant qu'elle est fabriquée par l'homme pour lui obéir, n'est pas une source d'inquiétude évidente, on peut être amené à craindre d'être dépassé, menacé par le développement de l'intelligence artificielle. Mais nous verrons que c'est avant tout l'homme, et peut-être une forme de démesure humaine potentielle, que l'on pourrait craindre à travers les machines. [...]

[...] Derrière l'efficacité technique, Aristote fait remarquer que c'est l'intelligence humaine qui fait l'utilité de l'outil. En effet, « ce n'est pas parce qu'il a des mains que l'homme est le plus intelligent des êtres, mais parce qu'il est le plus intelligent des êtres qu'il a des mains. » C'est parce que l'homme a l'intelligence d'employer ce qu'il a à sa disposition que la technique est rendue possible. La machine correspond donc à un stade plus avancé de technicité, où l'homme programme un appareil pour exécuter des tâches sans avoir besoin de le manipuler. [...]

[...] Puisqu'une machine, même la plus complexe, n'est jamais qu'une somme d'instructions dictées par l'être humain, pourquoi devrait-on la craindre ? Ce qui semble en contradiction avec la possibilité d'une peur des machines, c'est justement que cette main dont parle Aristote, intervient toujours à un moment ou un autre dans le processus d'action de la machine. Même dans les programmes d'intelligence artificielle, c'est l'humain qui dicte les premières consignes, et qui déclenche l'action de la machine. En ce sens l'humain reste l'acteur pensant, et la machine n'est qu'un exécutant. [...]

[...] Faut-il craindre les machines ? Dans le roman 1984, de George Orwell, les personnages sont observés quotidiennement par des « télécrans ». Où qu'ils soient et quoi qu'ils fassent, le pouvoir politique est en mesure de les surveiller à travers des machines ; la technologie est au service du totalitarisme. De nombreuses fictions décrivent aujourd'hui des sociétés futures imaginaires, où les intelligences artificielles prennent la place des hommes, et dans le combat de la machine contre l'homme, ce dernier ne sort pas toujours victorieux. [...]