生成AI固有のセキュリティリスクを可視化する「生成AI活用システム診断」をリリース

サービス 2024.04.16

国際基準に基づいた脆弱性診断を提供し、安心・安全なAI活用システムの実現を支援します。

ChatGPT等の生成AIを活用したシステム固有のセキュリティリスクを可視化する「生成AI活用システム診断」をリリースしました。
生成AI活用システム診断のご紹介ページはこちら　＞

生成AI固有の脆弱性をふまえたセキュリティ対策が必要

この度、SHIFT SECURITYは生成AI活用システム診断サービスの提供を開始しました。

近年、AI技術は目覚ましい進化を遂げ、その中でも生成AIは、文章や画像、音楽など様々なコンテンツを自動生成する技術として注目を集めています。中でも生成AIの代表的な技術の一つであるLLM（大規模言語モデル）は、膨大なテキストデータを学習することで、人間のような文章生成や質問への回答を実現します。

しかし、生成AIを活用したWebサービスや業務システムの開発が進む一方で、LLMによる生成AIは、以下のような従来のシステム開発と大きく異なる性質を持ちます。

自然言語（日本語や英語）で生成AIを操作する
プログラムに比べて完全な制御が困難
回答が学習データに依存する

このような性質から、生成AIを活用したシステム開発に合わせたセキュリティ対策が必要です。SHIFT SECURITYは、国際基準であるOWASP Top10 for LLMsに基づいた脆弱性診断を実施する「生成AI活用システム診断サービス」を提供し、安心・安全な生成AIシステムの実現を支援します。

サービス概要・特徴

生成AI活用システム診断のご紹介ページはこちら　＞

OWASP Top10 for LLMsに基づき、生成AIを活用したWebサービスやシステムの脆弱性を診断します。従来のWeb脆弱性診断では検出できない生成AI固有の脆弱性を検出し、セキュリティリスクを可視化します。

また、SHIFT SECURITYの脆弱性診断はホワイトハッカーの技術を標準化・仕組化したことで、属人性を排除し、効率的な診断工程を実現しています。生成AI活用診断サービスにおいても、高い診断品質かつ低価格で短納期な診断サービスを提供いたします。

サービス名称：生成AI活用システム診断
診断項目：OWASP Top10 for LLMs
納品物　：詳細な診断レポート・対策案
納期　　：診断後1営業日で報告書を納品

OWASP Top10 for LLMsとは

OWASP Top 10 for LLMs は、LLMによる生成AIを活用した開発における主要なセキュリティリスクを10項目にまとめたものです。OWASPは、Webアプリケーションのセキュリティに関する国際的なプロジェクト団体であり、OWASP Top 10は、Webアプリケーション開発における最も重要な10のリスクをまとめたリストとして広く知られています。

OWASP Top10 for LLMs 解説記事はこちら　＞
OWASP Top 10 for Large Language Model Applications　＞

＊本ニュースリリースに記載された内容は発表日現在のものです。その後予告なしに変更されることがあります。