危険なAIモデルを商業化するAbliteration.aiの挑戦と懸念

要約

Abliteration.aiは、AIモデルのガードレールを取り除くサービスを提供しています。このスタートアップは、ユーザーが危険なリクエストに対しても反応するオープンウェイトモデルの修正版を利用できるプラットフォームを構築しました。具体的には、最近発表されたGLM-5.3を含むモデルがブラウザやAPIを通じてアクセス可能です。

背景として、Abliterationはオープンソースの分野で長年取り組まれてきた技術であり、セキュリティの分野では有用とされています。しかし、このようなモデルの利用にはリスクも伴い、倫理的な懸念が高まっています。特に、ガードレールを取り除くことが実際に悪用される可能性があるとの指摘があります。

最後に、Abliteration.aiは、顧客からの収益で運営されており、クラウドプロバイダーとの契約も進めています。しかし、専門家からはこのようなサービスの普及がもたらす危険性について警告が発せられており、政府による規制の必要性が議論されています。Abliteration.aiは、顧客が希望するガードレールを追加できる機能も提供しており、内部的には一定の制限も設けています。

元記事: https://techcrunch.com/2026/09/03/abliteration-ai-is-making-a-business-out-of-removing-ai-guardrails/

公開日: Thu, 03 Sep 2026 18:37:57 +0000

この記事はAIアシスト編集により作成されています。