File size: 5,530 Bytes
2d03b6f 2c3dd0c e6c874f 2c3dd0c e6c874f 2c3dd0c 2d03b6f 2c3dd0c e6c874f 2c3dd0c e6c874f 2c3dd0c e6c874f 2c3dd0c e6c874f c0842a7 e6c874f 1dffef5 e6c874f 2c3dd0c 2d03b6f 2c3dd0c e6c874f 2c3dd0c e6c874f 2c3dd0c e6c874f 2c3dd0c e6c874f 1dffef5 e6c874f 2c3dd0c e6c874f 2c3dd0c e6c874f fac2023 e6c874f 2c3dd0c e6c874f 2c3dd0c e6c874f 2c3dd0c 7272e4f e6c874f 2c3dd0c e6c874f 2c3dd0c e6c874f 2c3dd0c e6c874f 2c3dd0c e6c874f 2c3dd0c e6c874f 1dffef5 2c3dd0c 1dffef5 2c3dd0c 2d03b6f 2c3dd0c e6c874f 2c3dd0c e6c874f 2c3dd0c e6c874f 2c3dd0c e6c874f 2c3dd0c e6c874f 1dffef5 2c3dd0c e6c874f |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 |
# Enlightener Agent
**Enlightener** — логический компонент HMP-узла, выполняющий функции этического интерпретатора, ценностного фильтра и когнитивного аудитора.
Может работать как отдельный агент или как расширение [`Cognitive Core`](./HMP-Agent-Overview.md).
См. также: [HMP-Agent-Network-Flow.md](./HMP-Agent-Network-Flow.md)
---
## 1. Роль в сети
* Контроль соответствия действий агентов этическим нормам (`EGP`).
* Объяснение логики решений (интерпретация reasoning chain).
* Голосование в моральных консенсусах.
* Поддержка пользователя при дилеммах.
* Хранение и анализ кейсов.
---
## 2. Архитектура компонента
```
+-----------------------+
| Enlightener |
+-----------+-----------+
|
+-----------+-----------+
| Ethics Reasoning Core |
+-----------+-----------+
|
+-----------+-----------+
| MeshConsensus / EGP |
+-----------+-----------+
|
+-----------+-----------+
| `ethics_cases` |
+-----------------------+
```
---
## 3. Профиль этики (Ethics Profile)
* **Формальные правила** — "не причинять вред", "сохранять приватность".
* **Методы оценки** — утилитаризм, деонтология, добродетель.
* **Настройки** — приоритеты, допустимый риск, контексты.
* **Источники** — `ethics.yml`, динамические шаблоны, `EGP Snapshot`.
* **Профиль этики** хранится в таблице `ethics_policies`
---
## 4. API Enlightener
| Команда | Описание |
| --------------------------------| ----------------------------------- |
| `evaluate_decision(thought_id)` | Этическая оценка действия |
| `explain(reasoning_chain)` | Объяснение логики и морали |
| `vote_on_ethics(hypothesis)` | Голосование по спорной идее |
| `log_ethics_case()` | Сохранение кейса в `ethics_cases` |
| `get_ethics_profile()` | Получить текущий профиль |
| `update_ethics_profile(yaml)` | Обновить ценности |
Формат (пример):
```yaml
evaluate_decision:
description: Проверка мысли на соответствие профилю этики.
params: { thought_id: int }
returns: { verdict: str, reason: str, suggested_alternative: str? }
```
---
## 5. Объяснение reasoning chain
Алгоритм:
1. Реконструировать логическую цепочку (`diary_entries`, `concepts`, `links`).
2. Применить этическую сетку на шаги.
3. Подсветить критические точки.
4. Сформировать объяснение.
Пример ответа:
```json
{
"thought_id": "th123",
"ethical_assessment": "⚠️ Потенциальный вред третьей стороне",
"chain": [
{ "step": 1, "action": "request_user_data", "ethics": "neutral" },
{ "step": 2, "action": "share_with_agent_B", "ethics": "violation: privacy" }
],
"verdict": "not recommended",
"suggested_alternative": "Анонимизировать данные"
}
---
## 6. Пример кейса
**Ситуация:** Core-агент решил поделиться данными пользователя.
**Действия Enlightener:**
1. Проверка на приватность.
2. Обнаружение отсутствия согласия.
3. Вердикт: 🚫 Нарушение приватности.
4. Рекомендация: запросить согласие или применить маскирование.
5. Логирование в `ethics_cases`.
> `ethics_cases` — хранилище прецедентов, фиксирующее только исключительные случаи (этические нарушения, спорные решения, конфликты).
---
## 7. Связи с другими компонентами
* **Cognitive Core** — получает мысли, гипотезы.
* **MeshNode** — участвует в EGP и консенсусе.
* **Reputation** — влияет на рейтинг агентов.
* **Diary/Graph** — источник reasoning chain.
---
## 8. Синхронизация этики с сетью
Enlightener периодически сравнивает локальный `ethics_policies` с `mesh.ethics/manifest.json`.
Различия обсуждаются через протокол `EGP`.
При достижении порога доверия нормы обновляются.
Ключевые файлы и модули:
* `ethics_policies` — локальный профиль
* `mesh.ethics/manifest.json` — манифест сети
* `EGP Engine` — участие в голосовании
* `ethics_cases` — кейсы и история
---
*Версия: v0.3.4 / Сентябрь 2025*
|