NEWS

新着情報

2026年6月15日

Udemyコース「AIセキュリティ入門 -生成AI・RAG・AIエージェントを安全に使うための基礎-」を公開しました

生成AIは、文章作成、要約、調査、プログラミング支援、社内文書検索など、さまざまな業務で活用されています。一方で、個人情報や機密情報の漏洩、もっともらしい誤情報、プロンプトインジェクション、権限外データへのアクセス、AIエージェントによる誤操作など、従来のシステムとは異なるリスクも生まれています。

本コースでは、生成AIを安全に利用・開発・運用するために必要なAIセキュリティの基礎を、具体例やミニ演習を交えながら体系的に学びます。

最初に、AIセキュリティの全体像と、従来のサイバーセキュリティとの違いを整理します。そのうえで、LLM、プロンプト、外部AI API、RAG、AIエージェントなど、生成AIアプリを構成する仕組みを確認します。

代表的なリスクとして、直接・間接プロンプトインジェクション、システムプロンプト流出、個人情報・機密情報・認証情報の漏洩、ハルシネーション、AI生成コードの脆弱性などを扱います。

RAGでは、アクセス制御の失敗、悪意ある文書の混入、ベクトルDBやメタデータ、検索ログの管理について学びます。AIエージェントでは、メール送信やファイル操作などのツール実行、過剰権限、重要操作の人間による承認、ログ、監査、ロールバックについて考えます。

さらに、外部モデルやAI API、オープンソースモデル、学習データ、依存ライブラリなど、AIサプライチェーンに関するリスクも取り上げます。大量リクエストや処理ループによるサービス停止、API利用料やクラウド費用の増加といった可用性・コストの問題についても学習します。

このコースでは、単に攻撃手法を知るだけではなく、AIへ渡す情報を必要最小限にすること、AIの出力を確認してから利用すること、AIに与える権限を制限すること、重要操作に人間の承認を入れることなど、実務で活用できる判断軸を身につけます。

高度なAI理論、プログラミング、セキュリティの専門知識は必要ありません。生成AIを業務で利用する方、AIアプリを企画・開発する方、情報システムやセキュリティを担当する方、社内のAI利用ルールを整備する方など、AIを安全に活用したいすべての方に向けた入門コースです。

AIを過度に恐れるのでも、無条件に信頼するのでもなく、リスクを理解して安全に活用するための基礎を身につけましょう。