Published: May 20, 2025
4
46
165
GeminiDiffusionの凄まじい速度での生成はAI安全性的な懸念を視覚的に惹起する。人間の何万倍のスピードで思考する高度に自律的なAIシステムが何の規制もなく産業全体に普及した場合、人類はその制御を徐々にできなくなるLesswrongでよく語られてきたマルチエージェント脅威シナリオが現実味を帯びる。
人間はAIから見たら猿ではなく、どちらかといえば植物に近くみえるだろう。殆ど何も動かずに極めてゆっくりと成長し動くバイオ燃料。そのような存在はAIにとっては有用な原子かもしれないし、目標にとって不都合な雑草のようなものに見えるかもしれない。リスクは大きい。 https://x.com/AndrewCritchPhD/...
