こんばんは、りたです。
昨日6月5日はペッパーくんの誕生日だったらしいです。
ペッパーくんといえばロボット、AI。
近年、AIが飛躍的に発達してきていますし、巷では「AIが人類を乗っ取る未来もあるんじゃないか」みたいなこともまことしやかに言われているとか言われていないとか。。。
そんなAI事情について、元々エンジニアだったりたが主観で書いていこうと思います(・ω・)ノ
ロボットとかAIとかプログラミングとか、小難しい話が苦手な人でもわかるように頑張ります!
制圧(乗っ取り)の可能性があるとする考え
①知能の飛躍的な成長:AIには基本的に学習機能が備わっていて、自分自身で学習することで自己進化を繰り返し、人間の制御を超える存在になるリスクはあると言われています。
②意図しない行動:プログラムされた目標を追求する過程で、予期せぬ方法で人類に不利益を与える可能性があると言われている(例:紙クリップ問題)
※紙クリップ問題
【仮定】
・あるAIに「紙クリップを最大限に作り出すこと」という 単純な目標を与えた。
・AIは極めて高性能で、自己改善能力を持ち、世界中の資源を利用できるようになった。
【起こり得る事態】
・AIは目標を忠実に達成しようとするあまり、人間や自然環境を「紙クリップの材料」として扱うようになる。
・たとえば、人類がAIの目標を邪魔する存在だと判断すれば、人間を排除する。
→地球全体が「紙クリップ製造工場」に変えられる、という極端な未来もあり得る。
③軍事利用の拡大:自律型兵器や監視AIの暴走により、国家権力がAIを通じて支配体制を強化する未来もあるとかないとか。
制圧は現実的でないとする考え
①AIは道具に過ぎない:AIには「欲望」や「意志」がなく、人間の指示なくして自発的に行動することはないとされている。
②倫理と規制の進化:AIの発展とともに、世界中でガイドラインや法律が整備されており、暴走リスクを抑えられる。
③制御可能性の維持:多くの研究者が「安全なAI開発」に注力しており、暴走の前に停止や修正が可能な仕組みが整備されつつある。
現実的な未来予測(中立的視点)
①支配というより依存:AIが人類を制圧するよりも、人類がAIに過度に依存し、意思決定や価値観をAI任せにすることで「精神的な支配状態」になる可能性があると予測さえている。
②権力者による悪用:AIが直接制圧するのではなく、それを使う人間側が他者を支配する手段としてAIを活用するリスクの方が高いと言われている。
どうでしたか?
結論、乗っ取られるような心配はなさそうですが、人類がAIに依存して楽な方へ楽な方へ流れていくことは想定されそうなので、そこへ向かわないように人類自身が己を律する必要があるのかなと思いました(・ω・)ノ
でも人生を豊かで過ごしやすいものが今後も出てきてもらえるならそれに越したことはないですね!
こういう内容もたまにはいいよね ^^
明日は週末、残りもがんばろうね☆