Computer Power And Human Reason: From Judgement To Calculation

[...] It is perhaps paradoxical that just, when in the deepest sense man has ceased to believe in – let alone to trust – his own autonomy, he has begun to rely on autonomous machines, that is, on machines that operate for long periods of time entirely on the basis of their own internal realities. If his reliance on such machines is to be based on something other than unmitigated despair of blind faith, he must explain to himself what these machines do and even how they do what they do. This required him to build some conception of their internal "realities". Yet most men don't understand computers to even the slightest degree. So, unless they are capable of very great skepticism (the kind to bear while watching a stage magician),  they can explain the computer's intellectual feats only by bringing to bear the single analogy available to them, that is, their model of their own capacity to think. No wonder, then, that they overshoot the mark [...]

[...] Il est peut-être paradoxal que justement lorsque l'homme – dans l'acception la plus profonde – a cessé de croire dans sa propre autonomie, il ait commencé à faire confiance aux machines autonomes, c'est à dire à celles qui fonctionnent pendant des longues périodes uniquement sur la base de leurs propres réalités internes. Si la confiance dans de telles machines se fonde sur autre chose que le parfait désespoir ou la foi aveugle, il devrait alors s'expliquer ce que font ces machines et comment elles le font. Ceci exige qu'il se crée une certaine conception de leur  « réalités » internes. [Or] la plupart des gens ne comprennent absolument rien à l'informatique. C'est pourquoi, à moins qu'ils soient capables d'un grand septicisme (du genre que l'on éprouve en regardant un prestidigitateur), ils ne peuvent s'expliquer les prouesses intellectuelles de l'ordinateur qu'en les ramenant à l'unique analogie qui leur soit accessible, c'est-à-dire leur propre manière de penser. Il n'est pas étonnant, dans ces conditions, qu'ils aient outre-passé les bornes [...]