企業はほぼ毎週新しい AI 製品を発表します。 Googleもつい先週そうだったそしてNvidiaの新しいもの。
AIブームの到来以来、悪影響の可能性を指摘する批判的な声も上がっている。
Googleの元社長エリック・シュミット氏も同様だった。運報告した。アメリカのテレビ局ABCニュースのインタビューで、自己改善型AIがもたらす危険性について語っている。
彼の提案は、AI が自己改善できるようになったらすぐに、AI を無効にすることを検討すべきであるというものです。緊急時には、いわゆるキルスイッチが人類を大惨事から救う可能性があります。
システム自体が改善できるのであれば、それをオフにすることを真剣に検討する必要があります。それは難しいでしょう。バランスを保つのは非常に難しいでしょう。
エリック・シュミット、元 Google シェフ
人工知能に関しては、一般人工知能と機械超知能が大きく区別されます。
- 汎用人工知能つまり、AI システムも人間と同じように、あらゆるタスクを学習または理解できるということです。
- 機械の超知能を使ってAIはあらゆる点で人間よりも知的に優れているだろう。
汎用人工知能: 次のステップ
OpenAI、Anthropic、その他の AI 企業確かにAI システムは間もなく汎用人工知能のレベルに達するでしょう。
とても裏切られたアンスロピックのダリオ・アモード最高経営責任者（CEO）は今年、早ければ2026年か2027年にそれが起こる可能性があると述べた。 OpenAI CEO の Sam Altman 氏によると、この目標は今後 5 年間で達成されるはずです。
ただし、AI 企業は、たとえそれが最悪の事態を予想することを意味する場合でも、AI の可能性を促進することに間違いなく関心を持っていることにも留意する必要があります。