OpenAIから辞職した安全専門家が会社の人工知能の安全性へのアプローチを批判

ChatGPTの開発者OpenAIから辞職した安全専門家は、会社の人工知能の安全性へのアプローチを批判した。デビッド・ロビンソンは、迅速な開発に焦点を当てた企業文化がエラーのリスクを高めていると述べた。彼は、人工知能企業はより能力のあるシステムを開発する前に、安全専門知識と研究にもっと多くの重要性を置くべきだと強調した。彼は「試行錯誤の時代は終わった」と発言し、進化した人工知能システムは、原子力エネルギーや航空業界と同様の保護措置を必要とすると強調した。

ロビンソンによれば、OpenAIはシステムを市場に投入し、問題が発生するたびに保護措置を導入する方法を取っており、このアプローチは深刻なリスクを伴う。ロビンソンはOpenAIで3.5年間働いたことを明かし、「会社は一つのローンチから次のローンチへと急ぐ中で、必要だと信じる配慮のレベルには達していませんでした」と述べた。OpenAIの広報担当者はロビンソンのコメントに対し、「私たちのモデルが安全に管理できるレベルを超えて能力を持たないようにしています。