ChatGPTよりも安全を掲げる"憲法AI"の可能性 AIをトレーニングし安全･無害･誠実な出力を行う

注意点としては、Claude 3.5 Sonnetには画像生成機能がないことが挙げられる。

これはもともとClaudeがテキストによる自然言語処理用のAIモデルであるためだが、ディープフェイクや著作権、プライバシーに関する倫理的なリスクを抱えてしまうのを避けるために、機能を用意していないとも考えられる。

悪用と見なされれば回答拒否も

Constitutional AI手法の採用からもわかるとおり、AnthropicはAI技術を誤った目的に使用したり、悪用する可能性があることに対して慎重な姿勢を取っている。もし、悪意を持つユーザーがClaudeで虐待的、欺瞞的、または誤解を招くコンテンツなどを生成しようとすれば、その入力文には同社のポリシーに違反することを示すフラグが付けられ、システムはAIチャットボットに対して、より慎重に回答するか、または回答を拒否するよう指示するとのことだ。

Claude 3.5 Sonnetは、 ClaudeのウェブサイトおよびiPhone / iPadアプリを通じて、無料で利用することが可能だ。ただ、無料の場合はチャットの使用量割り当てが少ないため、業務のなかで使いたい場合や、複数人数で使用したい場合には、有料のClaude ProやTeamプランが用意されている。

Anthropicには先月、Instagramの共同創業者で最高技術責任者（CTO）を務めたマイク・クリーガー氏が加わった。クリーガー氏はInstagramで技術チームを450人以上に増強し、10億人を超えるユーザーが利用するサービスに成長させた実績を持つ。また、OpenAIで人工知能の安全に関する部門を率いたヤン・ライケ氏も迎え入れた。Anthropicは今後も、過度に商業路線に走ることなく、ユーザーをさらに増やしていくことになりそうだ。

著者フォローすると、タニグチ ムネノリさんの最新記事をメールでお知らせします。