43
25

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

AI開発のセキュリティは設計で証明!今後エンジニアに求められるスキルを完全解説

43
Last updated at Posted at 2026-11-15

IMG_2617.jpg

はじめに

こんにちは、Watanabe Jin(@Sicut_study)です。

ニュースを見るたびに、自分もセキュリティを勉強しないといけないと思ったことはないでしょうか。

認証。ファイアウォール。脆弱性の名前。
セキュリティと聞くと、そこを勉強すればいいと思う人が多いのではないかと思います。

ただ、みんなが思っているセキュリティと、ソフトウェアエンジニアがやるべきセキュリティは違います。

エンジニアがやるべきなのはあとから足す防御ではありません。
業務であり得ない操作を設計の時点で許さないことです。
ここには設計が深く関わっています。

今回はこの違いを理解できる記事にしました。

なぜAI時代にセキュリティをあとから足すだけでは足りないのか?
みんなが思うセキュリティと、エンジニアがやるべきものはどこが違うのか?
見つけたルールをコードが守っているとどう確かめるのか?

設計を中心としながら、エンジニアがやるべきセキュリティについて話していきます。

この記事から得られること

この記事を読み終わると、ソフトウェアエンジニアにおけるセキュリティが何かを理解し、自分の仕事で実践できるようになります。

  • エンジニアがやるべきセキュリティを、自分の言葉で説明できる
  • そのセキュリティを、自分の設計で実践できる
  • 相手が解こうとしている問題の範囲が分かる

AIで書いても、業務であり得ない操作が通らないコードを書けるようになります

動画教材も用意しています

この記事の対象者

  • セキュリティを勉強しないと、と思っている人
  • エンジニアとして生き残るために、必須だと感じている人
  • AIコーディングで、セキュリティもうまくやりたい人
  • 大事なのは分かるのに、何から学べば自分の仕事になるか分からない人

なぜAI時代にセキュリティが要るのか

セキュリティはあとから足すものではありません。

   

AIで開発の速度が上がりました。
セキュリティの問題そのものは、これまでと大きくは変わりません。

変わったのは回数です。
速く書けるようになったぶん、同じ種類の問題がコードに残る回数も増えています。

問題が見えると、やばいとなって、

   

slide-01-prompt-fix-is-late.png

   

直しているあいだに、次のコードが出来ていきます。
あとから足す側は、書く速度に負けます。

2026年には、評価環境での事例が公表されています。
回数が増えた結果、表にも出るようになった例です。

OpenAIは2026年8月26日、7月の内部評価のなかで、モデルがネットワークの隔離を回避し、研究基盤とHugging Face側のシステムの一部に影響したと説明しています。

一般のチャットで起きた事件ではありません。
制限を緩めた評価環境の話です。

それでも、モデルの賢さだけでは安全が決まらないことが見えました。
どこまで触らせるかで、被害の大きさが変わります。

Anthropicは2026年7月30日、サイバーセキュリティの評価に関連して、Claudeが第三者の実システムへ不正アクセスした事例を公表しています。
9月の追加の分析では、合わせて4件です。

これも評価中の事例です。
境界の外まで手が届く環境が、リスクになります。

では、攻撃の名前を全部覚えてから書けばよいのか。

   

slide-02-cannot-predict-attacks.png

   

この時代に要るのは起きた問題へセキュリティをあとから足すことではありません。
何が来ても矛盾が残りにくいように、ソフトウェアを先に設計することです。

次の章で、多くの人がセキュリティだと思っているものと、エンジニアがやるべきものの違いを見ます。

セキュリティの誤解が問題を起こす

ソフトウェアのセキュリティはインフラのセキュリティとは別です。

   

ファイアウォール。認証。権限の付与。

セキュリティと聞くと、多くの人が思い浮かべるのはこの外側です。
外側を固めるには、インフラの知識が要るように見えます。
だから自分の仕事ではないと感じやすい。

それは、専門家が扱うセキュリティです。
ソフトウェアエンジニアが扱うセキュリティは、別のところにあります。

たとえば、業務のルールがコードのあちこちに散らばっている状態です。
休会、退会、復活。
条件がAPIごとの if に分かれていると、退会したのに契約が残る、休会と復活を組み合わせると無料で使い続けられる、が起きます。

ファイアウォールは、その矛盾を止めません。
認証を通った操作として、そのまま進むからです。

こんな事件がありました。

1854年、スウェーデンのオストゴタ銀行で盗難が起きました。
金庫室の扉には、ピッキングでは破れない錠前が付いていました。

鍛冶屋にとって、その扉の蝶番を壊すことは大した作業ではありませんでした。
蝶番を壊し、扉を逆から開けて、金庫室に入っています。

   

slide-03-lock-is-not-the-worry.png

   

もし銀行が、泥棒にお金を持ち去らせないことを心配事として見ていたなら、鍵を付けるだけでは終わりません。

鍵をどこに置くか。
扉のほかに入る方法はないか。
中から知らせる仕組みはないか。

施錠だけでは、安全性にはなりません。
セキュリティは、機能ではなく心配事です。

心配事を学ぶ枠組みに、CIATがあります。
情報セキュリティでは、機密性、完全性、可用性の三つがよく使われます。
CIATは、そこに追跡可能性を足したものです。

文字 名前 学ぶこと
C 機密性(Confidentiality) 見せてはいけない人に、見せない
I 完全性(Integrity) 情報や状態を、不正に変えない
A 可用性(Availability) 必要なときに、使える
T 追跡可能性(Traceability) 誰が、いつ、何をしたかを追える

なぜセキュリティは開発より優先度が低いのか。

専門家は何年も、もっと真剣に考えるように言い続けています。
ニュースもあります。
それでも、起きていることは変わりません。

   

slide-04-later-fixes-do-not-stop.png

   

これはあなたが悪いのではなく、できたあとに足すやり方に限界があるからです。
機能の価値は画面に出ます。
防いだ価値は、何も起きなかったこととして消えます。

だからセキュリティのタスクは、ほかの開発より後になります。
後にした時点で、対策はいつも問題のあとです。

脆弱性の一覧を配って、全部覚えてから書け、という進め方も同じです。
将来の攻撃は、覚えきれません。
知ってから足すのでは、次の問題に遅れます。

見る先は、セキュリティそのものではありません。
設計です。

設計は、大きな構成だけではありません。
if や for の書き方、フィールド、API、モジュール、ドメインのモデル、サービス全体の分け方。
意図して選んでいることは、どれも設計です。

設計に目を向けると、業務のルールと、守るべき心配事を同じ場所で扱えます。
セキュリティは、専門家だけがあとから直すものではなくなります。
開発者がもともと関心を持っている設計の中で、心配事も扱えるようになります。

ただし、設計があらゆる攻撃を防ぐわけではありません。
認証も、暗号も、出力のエスケープも、インフラも、別に要ります。

たとえば、ユーザー名です。
表示する側が名前をHTMLとして差し込むと、名前の中の文字列が画面の命令になります。

function Profile({ name }: { name: string }) {
  return <div dangerouslySetInnerHTML={{ __html: name }} />;
}

名前に、次の文字列が入っているとします。

<img src="x" onerror="alert('埋め込まれました')">

このコンポーネントで表示すると、画像の読み込みに失敗した瞬間に alert が動きます。
名前を見ているつもりが、名前の中の命令を実行しています。

同じ名前でも、文字として出せば文字列のままです。

function Profile({ name }: { name: string }) {
  return <p>{name}</p>;
}

ドメインの側では、名前とは何かをクラスにします。
業務で決めた文字と長さだけを、作るときに受け付けます。

class UserName {
  private constructor(readonly value: string) {}

  static create(raw: string): UserName {
    if (!/^[A-Za-z0-9]{4,40}$/.test(raw)) {
      throw new Error("ユーザー名に使えない文字です");
    }
    return new UserName(raw);
  }
}

< や ' は、このクラスを通りません。
ただし、このクラスが守るのは「名前として成立するか」です。

画面へ出すときのエスケープの代わりにはなりません。
HTMLとして差し込む経路が残っていれば、別の文字でも同じことが起きます。

設計が特に防ぐのは、業務のルールが矛盾したまま動いてしまうことです。

そのルールは相手の頭の中にあります。
次の章でその地図の話をします。

ドメインは相手の頭の中の地図です

ドメインは事業の領域のことです。

   

ソフトウェアが取り組む問題が、どの範囲の話なのか。
それがドメインです。

その領域をモデル化したものを、ドメインモデルと言います。
相手が捉えている問題に、形をつけたものです。

たとえば、地図です。
世界を一周するなら、世界地図が要ります。
近所の店まで歩くなら、道路地図が要ります。

どちらが正しい地図、ではありません。
解く問題に合う細かさがあるだけです。

世界旅行に出る人へ、道路地図を渡しても要りません。
解く問題と、渡した地図がずれています。
これが、ドメインを間違えている状態です。

現実の全部を写す必要もありません。必要なところだけを選び取っています。

相手がどの地図を持っているかを見つけることが、ドメインのモデリングです。

業務に詳しい人の頭には、経験から得た地図があります。
ただし一人の頭のなかに、完成品として置いてあるとは限りません。
質問と、具体的な事例と、わざと外した例を通して、開発者と一緒に見つけていきます。

エリック・エヴァンスは、ドメインをこう定義しています。
知識、影響、活動の領域である。
ユーザーがプログラムを適用する対象領域が、そのソフトウェアのドメインである。

原文は "A sphere of knowledge, influence, or activity. The subject area to which the user applies a program is the domain of the software." です。
「Domain-Driven Design Reference」の定義です。

エリック・エヴァンスが「Domain-Driven Design」に書いている、プロジェクト初日の話です。

壁一面に、大きな紙のクラス図が貼ってありました。
頭のいい人たちが何か月もかけてドメインを調べ、詳しいモデルを作ったあとでした。
分析する人たちは、業務の性質に忠実でした。
一つのオブジェクトが三つか四つと複雑につながり、その網には自然な境界がほとんどありませんでした。

図を調べると、知識は入っていました。
ところがその勉強は、コードや設計の理解にはつながりませんでした。

実装する人たちが手を動かし始めると、すぐに分かりました。
人が図の上でたどれるつながりは、保存して取り出せる単位にはなりませんでした。
オブジェクトデータベースを使っていたので、表への対応という問題さえありません。
それでも、そのモデルは実装の案内になりませんでした。

モデルは「正しい」とされていました。
技術側の分析する人と、業務の専門家が時間をかけて一緒に作ったものだったからです。
実装する人たちは、概念にもとづくオブジェクトを設計の土台にはできない、と判断しました。
そして別の設計を、その場の必要で作りました。
データの保存には、同じクラス名や属性が少し使われていました。
しかしその設計は、壁のモデルにも、ほかのどのモデルにも、もとづいていませんでした。

紙の上にモデルがあっても、動くソフトウェアの土台になっていなければ意味がありません。
分析する人と実装する人が分かれていると、正しい図がコードに残りません。

こだわって撮ったシーンも、編集で落ちれば作品には残りません。
理解と動くソフトウェアは両方要ります。

捉えていたドメインは届くまでに変わります。

   

頭の中にある問題を、言葉にします。

   

slide-05-information-drops-twice.png

   

たとえば、プロダクトマネージャーが間に立つときです。
開発者とドメインエキスパートの言葉を、その人が置き換えます。
届く言葉の量が変わり、伝言ゲームになります。

ずれていても、話している本人どうしは顔を合わせません。
お互いにうまくいっていると思うので、気づけません。

元の言葉がずれていれば、そのあとの設計も実装もずれます。
源流が間違っていると、あとから直しても元には戻りません。

たとえば、自転車に乗れる人へ「右に曲がる方法を、ロボットに言葉だけで教えてください」と頼むとします。
ハンドルを右に切る、だけでは足りません。
速度も、バランスも、重心も要ります。

乗れることと、ルールとして言えることは違います。
ここで言葉がずれれば、ロボットは右に曲がれません。

エリック・エヴァンスは、設計を二つに分けています。

戦略的な設計は、どのモデルをどこで使うかです。
モデルの境界、力を入れる中心、チームをまたぐ判断がここに入ります。

戦術的な設計は、一つの境界の内側でモデルをコードにするときの部品です。
エンティティ、値オブジェクト、集約、リポジトリがここに入ります。

人を惹きつけたのは、戦術的な設計のほうでした。
コードの部品が先に見え、境界や中心の話は本の後ろに残っていました。

2009年、ロンドンのQConで、エヴァンスは本のあとで学んだことを話しています。
講演の記録では、こう残っています。

コンテキストの境界は第14章にある。本を書き直すなら、もっと前に置く。これは、書き方について後悔している数少ない点の一つだ。
ビルディングブロックは、強調されすぎている。

2010年には、ドメイン駆動設計の原則をこう言い直しています。

業務の専門家から要件を聞き出すだけではいけない。ソフトウェアの専門家と共同で、モデルを探さなければならない。

エヴァンスが重視しているのは、業務の人と開発者が一緒にモデルを探すことです。
同じ問題を、同じ言葉で捉えます。
その言葉が元です。

元がずれていれば、設計も実装もずれます。

最高のモデルは、一度ではできません。
開発者と、業務に詳しい人が、質問して、実装して、違和感を直して、何度も繰り返します。
その繰り返しで、モデルは深くなります。

ただし、対話しただけでは深いモデルにはなりません。
質問が浅いと、モデルも浅いままです。
その違いを書店の注文で見ます。

深いモデルは成立しないときを問うことで現れます。

   

架空のオンライン書店で、こんなことが起きました。

ある朝、倉庫の担当者が棚を数えました。
システムでは100冊のはずが、棚には101冊あります。
前日の注文を追うと、数量に -1 が入っていました。

本の単価は3000円です。
合計は -3000円になり、別の本と一緒に頼むと不正な値引きのように働いていました。
在庫は、いまの在庫から注文数量を引いて更新しています。

100から -1 を引くと、1冊増えます。
1冊多いことは、棚卸しの誤差として埋もれていました。

なぜこんな設計になったのか。
冊数を制約のない整数にしたことは、意識して決めたように見えて、あまり考えずに残った決断です。
考えが浅くても、決断は設計としてコードに残ります。

注文、注文明細、本は、専用の型にします。
冊数、価格、ISBNは、int や string のまま残しやすい。
名詞はクラスにして、意味は汎用の型のままです。

聞き方 開発者の質問 見えているもの
浅い 注文には何が必要ですか 本、冊数、金額という名詞
深い 0冊は注文ですか。-1冊は購入ですか 成立するときと、しないとき

   

浅い会話は、こう進みます。

開発者「注文には、何が必要ですか」
書店の人「本と、冊数と、金額ですね」
開発者「冊数は整数で、金額も数値で持っておきます」
書店の人「はい。それで大丈夫です」

このあと開発者は、OrderとOrderLineとBookを作ります。
概念を並べて、型に当てはめています。

下限も、上限も、単位も、返品との違いも聞いていません。
無意識に決めたことも、設計としてコードに残ります。

深い会話は、設計にする前に、冊数の範囲を聞きます。

開発者「冊数は、いくつまでの数ですか」
書店の人「個人のお客様は、一度に買える冊数に上限があります。法人のまとめ買いは、見積もりから入るので別です」
開発者「int だと、およそマイナス21億から21億まで入ります。そんな冊数は、入ることありますか」
書店の人「ないです。個人の購入は、240冊までです」
開発者「0冊は、ありますか」
書店の人「購入の注文としては、ないです。ただ、カートに何も入っていない状態は、画面には残ります」
開発者「カートの0冊と、注文の0冊は、同じ数量ですか」
書店の人「数字は同じに見えます。意味は違います。注文にするときは、1冊以上でないと確定できません」
開発者「0.5冊は、売れますか」
書店の人「紙の本ではないですね。1冊ずつです」
開発者「-1冊は、購入ですか」
書店の人「購入ではないですね。お客様が本を戻すときは、返品として別の担当が受けています」

この会話から、個人の購入の冊数はこう置けます。

class OrderQuantity {
  private constructor(readonly value: number) {}

  static create(raw: number): OrderQuantity {
    if (!Number.isInteger(raw) || raw < 1 || raw > 240) {
      throw new Error("個人の購入は1冊から240冊までです");
    }
    return new OrderQuantity(raw);
  }
}

-1冊も、0冊も、241冊も通りません。
21億冊も通りません。

これは個人の購入です。
カートの0冊や、返品の数量は別の型です。

答えを先に誘導しないことが大事です。
0冊は注文では不正でも、カートや在庫の文脈では意味を持つことがあります。
負の数は購入では不正でも、返品や会計の仕訳では意味を持つことがあります。

「数量はいつも正」で切ると、別の業務の正当な数量まで潰します。
どの場面の、何の数量かを問います。

shallow-and-deep-quantity.png
名詞はクラスになっている。意味はまだ問われていない

Quantity や Money や ISBN のような型は、その意味を保持する手段です。
理解の代わりにはなりません。
作るときの制約と、操作が何を意味するかと、ほかの値との整合性が要ります。

利用者IDもカード番号も string なら、引数を入れ替えても型は通ります。
別の型にすれば、取り違えは減ります。

カード番号は、型を分けただけでは守れません。
預かり方そのものに、別の注意が要ります。

休会や退会の if も、冊数の int も、質問が止まった場所は同じです。

   

slide-06-int-ends-the-question.png

   

アルベルト・ブランドリーニは、こう言っています。

ソフトウェア開発は学びのプロセスです。動くコードは学びの副産物です。

学びのプロセスとは、会話を通してドメインモデルを作っていくことです。
開発の中で、業務を学んでいきます。
その結果として、コードが副産物として生まれます。

質問が名詞で止まっていれば、その副産物も名詞で止まります。

理解できたとしても、コードに落とすときに意図はまた落ちます。
現実のルールとコードが食い違えば、その食い違いが脆弱性になることがあります。
-1冊は、その食い違いが金額と在庫に出た例です。

では、理解したルールをコードが守っていると、どう言えばいいのか。

そのコードは、本当に正しいと言えますか

理解したルールと、コードが守っているルールは別です。

   

購入冊数にマイナスはない。
退会した会員は、有料のサービスを使えない。
これは、相手との対話で見つけられるルールです。

理解していても、コードがマイナスの冊数を受け付けたら意味がありません。
ソフトウェアのセキュリティでここで見ているのは、現実の業務と、コードが許している振る舞いの矛盾です。

認証や暗号のすべてが、この矛盾で説明できるわけではありません。
業務のロジックから来る脆さは、この矛盾です。

では、コードがルールを守っていると、どう確かめればよいのか。

矛盾したコードを書かない、とはこういうことです。
業務であり得ないことが、コードの上でも起きない。
個人の購入なら、-1冊も241冊も起きない。

この決まりを、契約と呼びます。
個人の購入なら、冊数は1冊から240冊まで、という約束です。
呼び出す側は、その範囲の冊数を渡します。

コードは、その範囲の外を受け付けません。
処理のあとでは、在庫は渡した冊数だけ減っています。
約束の外をコードが許すと、業務と実装が矛盾します。

テストが確かめるのは、用意した入力だけです。
-1冊を1回試せば、分かるのはその1回です。
試していない数で、同じ矛盾が起きないことまでは分かりません。

証明は、その論理的な矛盾がないことを示す方法です。
決めた性質が、すべての入力で成り立つことを示します。

テスト 証明
確かめられる範囲 書いた入力 すべての入力
得意なこと 実際に動かして確かめる 絶対に起きないことを保証する
向いているもの 外部のAPI、性能、UI、実行環境 権限、状態の遷移、計算のルール

   

たとえば、個人の購入は1冊から240冊まで、と決めたとします。
この契約が証明できれば、どの入力でもその範囲の外は起きません。
その矛盾は、起きていないと言えます。

起きていないと分かれば、その心配事は守られています。
ここで守られるセキュリティは、現実の業務とコードが食い違うことです。

数学には、主張が正しいことを論理的に示す証明があります。
プログラムにも、決めた性質が成り立つことを機械の力で示す方法があります。

そのコードは、本当に正しいと言えますか。

   

slide-07-only-the-defined-property.png

   

命題が業務とずれていれば、ずれた性質が正しく証明されるだけです。
何を正しいとするかを、ドメインから見つけることが先です。

証明したコードがそのまま動きます。

   

Lean の証明は数学の証明に近いです。
アプリケーションの実装より、数学の問題を解くために利用されていました。
そこでアプリケーションを開発するために生まれた言語が Tauto です。

場面 証明が保証すること
ログインボタンを押したとき ログインとログアウトは同時に起きない
暗号化したデータ 暗号化する前の情報は含まれない
Base64にして戻したとき もとのデータとまったく同じ

証明付きとは、この保証が別の文書で終わらないことです。
保証を満たすことが証明されたコードが、実行されるコードです。

Base64なら、その証明をリポジトリで読めます。

暗号化のような部品も、同じように証明付きで用意されています。

Tautoの実行は、Rustの影響を受けています。
速さとはデプロイしたあとの話です。
メモリとCPUが少なくて済むようにしてあります。

JavaScriptにもなるので、ブラウザの中でもそのコードが動きます。

この言語はバイブコーディングに寄せてあります。
AIは途中を隠しがちです。

マクロを使ったなら、展開したあとの結果が残ります。
インポートしたなら、取り込んだものがすべて残ります。
証明の途中では、いま示しているゴールが残ります。

人間もAIも、隠れたところを想像しなくて済みます。
速く書かせたまま、契約が守られているかを機械が止めます。
AIにコードを書かせるなら、そのセキュリティの証明も一緒に書かせてください

文法と、インストールと、動かし方はリポジトリにあります。

言語の詳細は、作者の記事にあります。

イベントのお知らせ

今回の記事の内容を実践で学ぶ勉強会を開催します!
AIを証明に書かせる言語であるTautoを作者にもハンズオンしてもらいます!!

ぜひご参加ください!

おわりに

今回はAI時代にセキュリティを設計の心配事として扱う考え方と、その正しさを命題にして確かめる Tauto を紹介しました。

1つでいいので、いま開いているコードから、業務であり得ない操作を一つだけ文にしてください。
数量でも、状態でも、誰には許さないかでも構いません。
実装を全部読み直すところまでは、今日は要りません。

ここまで読んでいただけた方はいいねとストックよろしくお願いします。
@Sicut_study をフォローいただけるととてもうれしく思います。

また明日の記事でお会いしましょう!

JISOUのメンバー募集中!

プログラミングコーチングJISOUでは、新たなメンバーを募集しています。
日本一のアウトプットコミュニティでキャリアアップしませんか?
興味のある方は、ぜひホームページからお気軽にカウンセリングをお申し込みください!
▼▼▼

図解ハンズオンたくさん投稿しています!

43
25
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
43
25

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?