OpenAIは本日、ChatGPTのメジャーアップデートを発表し、健全な利用を促すリマインダーシステムを正式に導入しました。ユーザーが会話で一定時間を超えると、「穏やかな休憩提案」が表示されます。同社は、自社の製品設計哲学はユーザーエンゲージメントを維持することではなく、インテリジェントなインタラクションを通じてユーザーが効率的に情報にアクセスし、現実生活に戻れるようにすることだと強調しました。
今回のアップグレードでは、特にリスクの高い質問への対応が強化されています。ChatGPTは、人生の大きな決断に関わる質問を検知すると、メリットとデメリットの分析を通してユーザーを積極的に誘導します。さらに、感情認識モジュールも追加されました。世界中の90人以上の医師と共同で開発したスコアリングシステムを用いることで、ユーザーの感情状態をより正確に評価し、心理的依存の増大を防ぐことができます。
OpenAIは安全性を高めるため、メンタルヘルスや青少年育成などの分野をカバーする専門家からなる学際的な諮問チームを結成しました。これらの改善は、30カ国におけるユーザー行動に関する詳細な調査に基づいています。システムは、不安を含む様々な複雑な感情を認識し、対応できるようになりました。この取り組みは、企業がテクノロジー開発者からデジタルヘルスの守護者へと移行する中で、AI 倫理の発展における新たな段階を示しています。
