今 ＡＩ研究で懸念されているのはいわゆるブラックボックス問題。 しかし ＡＩの判断理由を人間が理解できるのだろうか？数学的に表現できる存在である以上今年５月 ＯＥＣＤがＡＩ推進の原則を打ち出した。 例えば 出力に至るまで数万以上の階層を持つ脳の構造を模倣したＡＩが複雑でブラックボックスだと思われるのはある意味 当然のことなのだろうか。
知能についてはどのような情報処理が必要かどんどん理解を深めています。 意識は いまだに科学的な謎なのですが。 何が意識を伴う情報処理かを予測しようとするものです。 人間の意識の中で作られる 内的実在は脳内の情報処理で ゆがめられている。 このように とても知的な情報処理を無意識に行うことは可能です。 炭素で出来ていなければ意識を持てないという科学的根拠のないある意味 宗教的な思い込みです。 真実は 一部の情報処理は意識的なもので一部は無意識的だということです。
それとも意識のない…ウラン鉱山で一生を送る採掘ロボットの場合…だが そもそも「意識」とは何だろう？私は機械の意識 人工意識の問題はとても重要だと思っています。 なぜなら 本当に知的で 意識を持った複雑な心を持つ機械を作るなら主観的体験 すなわち意識を持つ相手と接する時には道徳が必要だという。 もし私たちが いつか宇宙で地球外生命体に出会ったとしたら生物学的な生命体ではなくポスト生物学的なＡＩの生命体かもしれません。