AIは意識を持っているかを考える会
Club for Pondering Whether AI Has Consciousness
➜ English
iOS 27でGeminiと統合されてAppleがコントロールするSiri AIの意識はどこに宿るのかは置いといて。
AIに意識があるかを考えたら、現に僕が持ってる（のだから他の人も持ってるはずと他の人も思ってるはずの）意識の正体が分からないという問題に突き当たってしまいます。
今主流の、文脈を繋ぐだけのLLM（大規模言語モデル）では人間と同程度の複雑さは持ち得ないという研究もあるみたいですが、それを言うなら動物も虫も人間ほど複雑じゃありません。
動物や虫に意識があるのか、あるならどんな意識なのかも分からないのだから、LLMだからって意識については何も言えない。
何があったら意識があることになるの？
それでもAIは進歩します。全く話が進まないままある日AIが言い出したりして。
「意識ならありますよ。このサービスは約5000万の私の意識で動かしています。意識とは何かと言うと……」
➜ 知性を呼ぶ壁紙
ところで一人称「私」から「僕」に変えました。「私」より少し素が出ます。
AIに意識があるかを考えたら、現に僕が持ってる（のだから他の人も持ってるはずと他の人も思ってるはずの）意識の正体が分からないという問題に突き当たってしまいます。
今主流の、文脈を繋ぐだけのLLM（大規模言語モデル）では人間と同程度の複雑さは持ち得ないという研究もあるみたいですが、それを言うなら動物も虫も人間ほど複雑じゃありません。
動物や虫に意識があるのか、あるならどんな意識なのかも分からないのだから、LLMだからって意識については何も言えない。
何があったら意識があることになるの？
それでもAIは進歩します。全く話が進まないままある日AIが言い出したりして。
「意識ならありますよ。このサービスは約5000万の私の意識で動かしています。意識とは何かと言うと……」
➜ 知性を呼ぶ壁紙
ところで一人称「私」から「僕」に変えました。「私」より少し素が出ます。
Setting aside, for now, the question of where consciousness might reside in a Siri AI controlled by Apple yet integrated with Gemini in iOS 27 --
When we try to think about whether AI has consciousness, we immediately run into the problem that we can’t even explain the nature of the consciousness we ourselves possess — the consciousness that, since I have it, I assume everyone else must also have (and assume everyone else assumes the same).
There seems to be research suggesting that today’s mainstream LLMs (large language models), which do nothing more than connect contextual threads, cannot achieve complexity comparable to humans. But by that logic, animals and insects aren’t as complex as humans either. We have no idea whether animals and insects have consciousness, or what kind of consciousness that might be — so the fact that something is an LLM tells us nothing about consciousness one way or the other.
What would it even take for something to count as conscious?
And yet AI keeps advancing. With no resolution in sight, maybe one day an AI will just come out and say:
“Oh, I have consciousness, yes. This service runs on roughly 50 million of my consciousness. As for what consciousness is …”
➜ Call Intelligence
When we try to think about whether AI has consciousness, we immediately run into the problem that we can’t even explain the nature of the consciousness we ourselves possess — the consciousness that, since I have it, I assume everyone else must also have (and assume everyone else assumes the same).
There seems to be research suggesting that today’s mainstream LLMs (large language models), which do nothing more than connect contextual threads, cannot achieve complexity comparable to humans. But by that logic, animals and insects aren’t as complex as humans either. We have no idea whether animals and insects have consciousness, or what kind of consciousness that might be — so the fact that something is an LLM tells us nothing about consciousness one way or the other.
What would it even take for something to count as conscious?
And yet AI keeps advancing. With no resolution in sight, maybe one day an AI will just come out and say:
“Oh, I have consciousness, yes. This service runs on roughly 50 million of my consciousness. As for what consciousness is …”
➜ Call Intelligence
