技術的楽観主義者たちは、内在的な矛盾を抱え、しばしば彼らの主要な信念の間の不調和を見落とします：一方で、彼らは人工知能（AI）を当代最大の技術革命として称賛します。他方でそれは何も根本的に新しいものではないとも主張しています。将来に対する懸念が表面化すれば、現在の安心策で迅速に鎮火されます。現在は単純なミスをしているAIも、記述だけで個人が独自にビデオゲームや映画を作成できるようになる、その広大な潜在能力を示しています。
しかし、重要な議論はもはや遅れるべきではありません。 AIは以前のどの技術革命とも異なり、自律的な決定を下し、自己を改善するように設計されています。このエスカレートする野心は、一般的な人工知能（AGI）の開発を高め、楽観主義者によれば、人類の最も困難な課題を解決するであろうと言われています。しかし、懐疑論者らは恐るべき問いを投げかけます：もし超知能機械が人間を解決すべき問題とみなしたらどうなるでしょうか。
「ターミネーター」などの映画で見られるディストピアのビジョンは陳腐化しており、多くのテック学者や起業家たちからはため息が漏れます。それでも、一部の人々はこれらの懸念を真剣に受け止めています。AI Impactsによる2700人のAI開発者を対象とした調査では、58％の人が知的機械による人類の消滅の可能性を約5％程度と考えていました。これは過度の警戒心のように聞こえるかもしれませんが、AIが1年に1度また指を正しく描けない状況を考えれば、これらの懸念は新しいものでも根拠のないものでもありません。
著者ジェームズ・バラットは著書「Our Final Invention（私たちの最後の発明）」でAIが人類を壊滅させる可能性があるだけでなく、実際にそうなる可能性が高いと主張しています。2013年に初版がリリースされ、2023年に再版されたこの書籍は、かつて他のものに隠されていた新しいAIモデルを多くのテック企業が発表したタイミングに重なります。
AIに関する現在の議論を探求するために、MIT Technology ReviewやAI Ethics Labのような信頼できる情報源を訪れることを検討してみてください。