OpenAI、生物兵器やバイオテロ対策を強化

OpenAIは19日(米国時間)、AIの生物兵器などへの悪用対策を強化していく方針を発表した。7月には「バイオディフェンスサミット」を主催し、対策を進めていく。

フロンティアAIモデルの進化により、薬物発見の加速や、より良いワクチンの設計、希少疾患の新たな治療法の発見など、医学や公衆衛生、環境科学の分野で新たな可能性を開くと期待されている。一方で、知識がほとんどない人でも生物学的脅威を再現したり、生物兵器を作成したりするのを助ける可能性もある。そのため、複数の対策を導入し、悪用を防ぐ試みを強化していく。

バイオセキュリティなどの専門家や研究者と協力し、脅威モデル、能力評価、使用ポリシーなどを策定。あわせて、生物学の博士号・修士号を持つ人々と協力し、対策が実際に機能しているか検証を進める。また政府機関との連携も進めていく

有害な要求は、拒否もしくは安全に対応するようにモデルを訓練していく。また、ウイルス学実験、免疫学、遺伝子工学などの「デュアルユース」リクエストについては、モデル仕様書で定められた原則に従い、実行可能な手順を提供する応答を避けるようにし、詳細な手順などは控える設計とする。

リスクの高い応答については、フィルターが危険性を判断し、モデル応答がブロックされる。必要に応じて人間によるレビューが行なわれる。