Slack の AI 機能のセキュリティ

人工知能（AI）は Slack の製品エクスペリエンスの中核であり、データセキュリティとプライバシーへの取り組みが、Slack のあらゆる活動の基盤となっています。Slack のネイティブ AI 機能は、このような取り組みに基づいて構築されています。以下がその概要です。

• 顧客データが Slack によって管理されているインフラストラクチャ外に出ることはありません。また、データは大規模言語モデル（LLM）のトレーニングに一切使用されません。詳細については、Slack の AI 原則をご覧ください。 
• Slack の AI 機能は、メンバーがアクセスできるデータのみを使用し、Slack の持つエンタープライズ級のセキュリティとコンプライアンス要件のすべてを満たしています。 
• Slack AI ガードレールでは、データプライバシーを保護し悪用リスクを軽減する Slack AI 機能の多層的なセキュリティフレームワークが提供されます。これには新バージョンの Slackbot も含まれます。詳しくは、下記の FAQ をご覧ください。 

よくある質問（FAQ）

Slack の AI 機能の仕組み

Slack では、サードパーティー製の大規模言語モデル（LLM）を、Slack のセキュアなクラウドインフラストラクチャ上に設置した環境で運用しています。これにより、ユーザーの Slack ワークスペースやオーガナイゼーション内にあるデータを活用した、パーソナライズされた一連の AI プロダクティビティツールを提供しています。Slack のネイティブ AI 機能を使用すると、社内のランキングモデル（Slack のセキュアな標準アーキテクチャで実行）が適用され、最も関連性の高い情報が検索されて並べ替えられます。LLM によって応答文が生成される際、情報は推論リクエストに含まれますが、リクエスト処理後に情報が保持されることはありません。 

自分の Slack データが LLM のトレーニングに使用されることはありますか？

顧客データがサードパーティの LLM のトレーニングに使用されることはありません。Slack では検索拡張生成（RAG）という手法を採用しています。これは、毎回のタスクに必要なデータを推論の実行時にのみ LLM に送ります。RAG では、データは推論リクエストのコンテキストで送信されます。モデルはデータを一時的にキャッシュすることはできますが、データベースやディスクにデータを保存することはできません。

Slackの AI 機能では、チャンネルとメッセージのプライバシーはどのように尊重されますか？

Slack の AI 機能では、リクエストの時点でメンバーがアクセスできる Slack データのみが使用されます。自分がメンバーになっていないプライベートチャンネルまたはダイレクトメッセージ（DM）のデータが表示されたり、使用されたりすることはありません。例えば、AI 検索を使用した場合、Slack の通常の検索で表示されない結果が表示されることはありません。同様に、要約機能および Slackbot のレスポンスを使用する場合も、ユーザーがチャンネルまたは DM の閲覧時に表示できない内容が含まれることはありません。

Slack AI ガードレールとは何ですか？

Slack AI ガードレールは、データプライバシーの保護、悪用リスクの軽減、エンタープライズ級のセキュリティ標準への準拠を目的とした多層的な対策です。主な内容は以下のとおりです。 

• ハルシネーションを減らすためのコンテンツのしきい値
• 明示的な安全に関する指示を伴うプロンプトエンジニアリング
• プロンプトインジェクションのリスクを軽減するためのコンテキストエンジニアリング
• フィッシング攻撃を阻止するための URL フィルタリング
• 出力形式の検証
• コンテンツ安全性フィルター

Slack のコンテンツ安全性フィルターでは、回答の検索や Slackbot など、ユーザーによって生成された入力を利用する Slack 機能に対し、悪用や悪意のある入力に関連するリスクを軽減するための追加の保護層が適用されます。

Slack は、AI の応答における無関係な情報や不正確な情報をどのように防止していますか？

Slack の AI 機能からの回答では、回答で参考にした元のメッセージが引用元として提示されることがあります。引用を選択すれば引用元のメッセージにジャンプでき、原文を見直して情報の補足や検証を行えます。Slack では AI 出力を評価する品質監視システムを採用しており、これらの評価でハルシネーションなどの評価指標が検出されると、品質低下の兆候として社内チームに通知されます。さらに、正確かつ安全で一貫した結果を得られるようにするため、AI 機能の使用中に LLM に送信されるプロンプトは Slack のモデルプロバイダーが提唱するベストプラクティスに従っています。 

Slack の AI 機能がデータを保存する期間はどのくらいですか？

会話の要約と回答の検索

要約と回答の検索では、AI による応答文が一時的なデータとして作成され（例 : 別画面に移動したり結果を閉じたりすると消滅する応答文）、そのデータはデバイスやサーバーに保存されません。

まとめ

まとめのデータは、しばらくの間まとめの履歴を再度参照できるよう、90 日間保存されます。削除やコンプライアンスポリシーによって、まとめに使用されたメッセージの削除または非表示の操作（データを示す記録が削除されたなど）が行われると、保存されていたまとめも削除されます。

ワークフローによって作成されたチャンネルの要約

ユーザーが自ら作成する会話の要約とは違い、パブリックチャンネルを要約するワークフローステップでチャンネルの要約を作成した場合、生成された要約は一時的な AI レスポンスではありません。そのチャンネルの要約は、ワークフローの次のステップ次第でメッセージとして会話に送信されたり、canvas に追加して保存されたりします。このような場合、AI が作成した要約を含むメッセージや canvas は、オーガナイゼーションのデータ保存設定に従って、Slack 内に保持されることになります。 

AI 機能をオフにしたり、アクセスを制限したりすることはできますか？

はい。オーナーと管理者は、ワークスペースまたは Enterprise オーガナイゼーションのメンバーが使用できる AI 機能を決定できます。Enterprise プランでは、OrG オーナーと管理者は AI 機能へのアクセスを特定のユーザーとグループに制限することもできます。詳細については、「Slack の AI 機能へのアクセスを管理する」を参照してください。