Clean Society / Core Concept

14 min readCore Concept

Composite Evil

合成悪

部分部分は正しい。しかし、それらがつながると悪になる。

Composite Evil
合成悪
Core Concept
Moral Inversion
Distributed Responsibility
Local Optimization
Automated Harm
Surveillance
Exclusion

Clean Parts / Connected Harm

保護、透明性、安全、配慮、通報、効率化、説明責任。

どれも単独では正しい。

しかし、それらが分業され、接続され、拡大されると、誰も悪意を持っていないにもかかわらず、人を監視し、選別し、追放し、壊す仕組みが完成することがある。

Clean Societyは、この現象を Composite Evil／合成悪と呼ぶ。

Definition

合成悪

Composite Evil

個々の構成要素には、明確な悪意や違法性が存在しない。

それぞれの判断は、安全、保護、公平、効率、透明性、善意などによって正当化できる。

しかし、それらが制度、組織、プラットフォーム、群衆、アルゴリズム、市場を通じて接続されたとき、全体として深刻な害を生み出す。

合成悪とは、悪意ある部品から作られる悪ではない。

正しい部品から組み上がる悪である。

悪い人がいなくても、
悪いシステムは完成する。

Why Now

なぜ現代に増えているのか

01 · Fragmentation

分業

一人ひとりは、自分の担当領域しか見ない。通報する人、審査する人、記事にする人、拡散する人、削除する人、処罰する人が分かれている。誰も全体を設計していないが、全体として一つの処罰装置が生まれる。

02 · Optimization

部分最適

各部署、各制度、各アルゴリズムは、自分に与えられたKPIだけを改善する。売上、安全性、クリック率、違反検知率、透明性。各指標は改善していても、人間全体の生活は悪化することがある。

03 · Scale

規模

一件なら訂正できる誤りも、数百万件に自動適用されると制度になる。小さな偏りや判断ミスが、自動化と拡散によって構造的な害へ変わる。

04 · Moral Distance

道徳的距離

被害を受ける人の姿が、担当者、ユーザー、経営者、アルゴリズム設計者から見えない。そのため誰も、自分が加害に参加しているという実感を持たない。

Formula

合成の式

Good Intention
善意
Fragmentation
分業
Optimization
部分最適
Scale
規模
No Final Responsibility
最終責任者の不在
Composite Evil
合成悪

最後の項だけが結果。前段はいずれも単独では正当化可能な要素である。

Variations

8つの類型

Catalog of Composite Evil

Risk · High

善意の連鎖型

Chain of Good Intentions

守ろうとする行為が連結され、最終的に私刑や排除になる。

保護→注意喚起→通報→特定→拡散→制裁

Risk · Elevated

ルール過剰適用型

Rule Accumulation

一つひとつは合理的な規則でも、すべてを重ねると人間が動けなくなる。

安全管理+個人情報保護+ハラスメント防止+説明責任+記録義務+判断停止

Risk · Structural

部分最適型

Local Optimization

各部門が成功するほど、組織や社会全体が悪化する。

売上を増やす→クリックを増やす→リスクを減らす→コストを削る→滞在時間を増やす→信頼と身体が消耗する

Risk · High

責任分散型

Distributed Responsibility

全員が少しずつ関与しているため、誰も全体の責任を引き受けない。

設計する人→承認する人→運用する人→拡散する人→自動処理するシステム

Risk · High

可視化逆転型

Transparency Reversal

守るために集めたデータが、監視、選別、差別に使われる。

透明性→データ収集→評価→ランキング→選別→排除

Risk · Structural

市場化変質型

Marketized Problem

問題を解決するための市場が、問題が残るほど成長する構造になる。

社会問題→対策予算→支援事業→専門組織→継続的管理→市場維持

Risk · Elevated

配慮の排除型

Exclusion Through Care

誰かを守るための配慮が、別の誰かを排除する。

安全な空間→発言制限→異論の禁止→人物の分類→退出要求

Risk · High

自動化増幅型

Automated Amplification

小さな誤差や偏りが、AIと自動化によって大量の人に適用される。

確率的判断→自動分類→大量適用→再評価不能→制度化

Comparison

類型比較

Variation Comparison Matrix

善意の連鎖型

Risk · High

Starting Intention: 保護・正義
Main Actor: 群衆 / ファンダム / 通報者
Harm Mechanism: 連鎖的な特定と制裁
Who Benefits: 道徳的優位を得る参加者
Who Is Harmed: 対象とされた個人
Where Responsibility Goes: 「推しを守っただけ」へ分散
Typical Scale: SNS拡散規模

ルール過剰適用型

Risk · Elevated

Starting Intention: 安全・公平・説明責任
Main Actor: 組織 / コンプライアンス
Harm Mechanism: 裁量喪失と停滞
Who Benefits: 責任回避できる組織
Who Is Harmed: 現場・利用者・患者
Where Responsibility Goes: 規程とチェックリストへ
Typical Scale: 組織全体

部分最適型

Risk · Structural

Starting Intention: 効率・成長・安全
Main Actor: 部門 / プラットフォーム
Harm Mechanism: KPI同士の衝突
Who Benefits: 指標達成者
Who Is Harmed: 顧客・従業員・社会
Where Responsibility Goes: 各KPIの管轄へ分散
Typical Scale: 組織〜市場

責任分散型

Risk · High

Starting Intention: 分業・専門化
Main Actor: 組織網 / システム
Harm Mechanism: 責任の蒸発
Who Benefits: 各担当者（免責可能性）
Who Is Harmed: 被害を経験する個人
Where Responsibility Goes: プロセスの隙間へ
Typical Scale: 横断システム

可視化逆転型

Risk · High

Starting Intention: 透明性・保護
Main Actor: 管理者 / プラットフォーム
Harm Mechanism: 監視と選別
Who Benefits: 評価・管理側
Who Is Harmed: 可視化される主体
Where Responsibility Goes: 「安全のため」という目的へ
Typical Scale: データ基盤規模

市場化変質型

Risk · Structural

Starting Intention: 問題解決
Main Actor: 支援事業 / 公金市場
Harm Mechanism: 管理の永続化
Who Benefits: 対策産業・専門組織
Who Is Harmed: 問題の当事者
Where Responsibility Goes: 「まだ必要な事業」へ
Typical Scale: 予算・制度規模

配慮の排除型

Risk · Elevated

Starting Intention: 包摂・配慮
Main Actor: コミュニティ運営者
Harm Mechanism: 保護名目の退出圧力
Who Benefits: 「守られる側」として定義された集団
Who Is Harmed: 分類された異論者・不完全な参加者
Where Responsibility Goes: 「安全な空間のため」へ
Typical Scale: コミュニティ〜制度

自動化増幅型

Risk · High

Starting Intention: 公平・効率
Main Actor: AI / 自動判定システム
Harm Mechanism: 誤差の大量適用
Who Benefits: 処理効率を得る組織
Who Is Harmed: 誤分類された個人
Where Responsibility Goes: モデルと「システム上の判断」へ
Typical Scale: 人口規模の自動処理

Meta-Patterns

3つの上位構造

Moral Inversion

善の反転

保護、配慮、安全、透明性、公平性。人を守るための価値が、監視、選別、排除へ反転する。

Evaporation of Responsibility

責任の蒸発

分業、組織、群衆、アルゴリズムによって、誰も全体の結果を引き受けなくなる。

Harm Through Scale

規模による害

一件では小さな判断が、自動化、拡散、大量処理によって、社会構造そのものになる。

Diagnostic

これは合成悪か

Is This Composite Evil?

該当項目が多いほど、問題は個人の悪意ではなく、接続構造そのものに存在する可能性が高い。

System Diagram

生成の流れ

01
正しい目的
Right Purpose
02
専門化・分業
Specialization
03
個別KPI
Local KPIs
04
データ化・可視化
Datafication
05
自動化・大量適用
Automation
06
責任の分散
Dispersed Responsibility
07
被害の集中
Concentrated Harm
08
合成悪
Composite Evil

Scenarios

一般化した短いケース

Case 01

ファンダムによる分散型処罰

演者が観客への違和感を語る。

ファンが原因を推測する。

動画や座席情報が共有される。

対象とされた人物が、正式な確認も手続きもなく攻撃される。

個々の参加者は、「推しを守っただけ」と考える。

Case 02

安全のための全面監視

子どもを守るため、すべての通信を監視する制度が導入される。

目的は正しい。

しかし全員の通信の秘密が弱まり、監視権限が将来別の目的に使われる可能性が生まれる。

Case 03

AIによる公平な選考

企業が採用の公平性を高めるため、AIで応募者を評価する。

人間の偏見を減らす目的だったが、過去データの偏りと説明不能な判定によって、特定の経歴を持つ人が継続的に排除される。

Case 04

問題を管理する市場

社会問題を解決するため、予算、専門家、認証、研修、監査制度が拡大する。

問題は完全には解決されない。

しかし管理市場だけが成長し、制度を終了させる動機が失われる。

断定的な実在事件の説明ではなく、構造を読むための一般化ケースである。

Governance

合成悪を止めるには

Who Sees the Whole?

全体を見る人は誰か。

Who Can Stop It?

途中で止められる権限を誰が持つか。

Who Bears the Cost?

失敗したときのコストを誰が負担するか。

Can the Subject Appeal?

対象となった人は異議申し立てできるか。

Is the Harm Reversible?

誤りを訂正し、記録を消し、生活を回復できるか。

Does Success End the System?

問題が解決したとき、その制度や市場は終了できるか。

HOLD

HOLDとの接続

合成悪の多くは、誰も止まらないことによって完成する。

正しい目的が提示されると、参加者は判断を保留せず、次の工程へ進めてしまう。

HOLDとは、結論を急がず、接続の先に何が生まれるかを見るための停止線である。

止めることは、反対することではない。
全体を見るための時間をつくることである。

本リポジトリに HOLD 専用ページは存在しないため、テキスト参照のみとする。

Closing

悪は、いつも悪い顔をしているとは限らない

現代の悪は、命令、暴力、明確な悪意だけによって生まれるわけではない。

保護する人。規則を守る人。数字を改善する人。透明性を高める人。問題を知らせる人。技術を効率化する人。

全員が自分の役割を正しく果たした結果、誰かの生活だけが壊れることがある。

だから、問うべきなのは、「誰が悪いのか」だけではない。

「正しい行為が、どのように接続されているのか」である。

部分部分は正しい。
しかし、全体を見る者がいなければ、正しさそのものが悪を組み上げる。

Related Observations