12+
Оглавление - Cognitive Harness
Архитектура организации человеческого мышления в эпоху агентного искусственного интеллекта
- Cognitive Harness
- Предисловие
- Как читать эту книгу
- От ответа к действию
- Второе открытие
- Что именно показал масштаб
- Надежность длинного цикла
- Сильнейшее возражение
- Самая опасная ошибка
- Три вопроса вместо одного
- Что действительно общее
- Что не является аналогией
- Тело, развитие и отношения
- Четыре теста хорошего переноса
- Аналогия как исследовательский инструмент
- Практическая цена ошибки
- Методологический контракт
- Эксперимент с двумя системами
- Интеллект, агентность и автономность
- Почему одной модели недостаточно
- Семейство агентных архитектур
- Memory: состояние, а не склад
- Evaluator: проблема критерия
- Reflection: полезная и опасная рекурсия
- Наблюдаемость и журнал решения
- Когда агентность избыточна
- Архитектура отказов
- Что изменилось для человека
- Предварительное определение
- Чем Harness не является
- КУЛЬТУРА И СОЦИАЛЬНАЯ СРЕДА
- ↕
- ЦЕННОСТИ И ЗНАЧИМОСТЬ ↔ КООРДИНАЦИЯ ↔ ДЕЙСТВИЕ В СРЕДЕ
- Шесть задач первой карты
- Время как несущая ось
- Внутренний и внешний контур
- Порядок дальнейшего исследования
- Свет в комнате и доступ к выключателю
- Феноменальный опыт и доступ
- Внимание не равно сознанию
- Global Workspace: глобальная доступность
- Predictive processing: ожидание и доступ
- Сознание в первой карте Harness
- Сильнейшее возражение
- Задача без недостатка интеллекта
- Аффект: оценка до аргумента
- Любопытство и внутренняя мотивация
- Интерес, цель и ценность
- Социальное производство интереса
- Практический случай
- Сильнейшее возражение
- Восприятие начинается до сигнала
- От пассивного восприятия к конструктивному
- Predictive processing
- Воплощенное предсказание
- Неопределенность нескольких типов
- Мозг не заканчивается ответом
- LLM как демонстрация, а не модель мозга
- Практический случай: ранняя фиксация
- Сильнейшее возражение
- Чья рука движется?
- Почему термин опасен
- Минимальная самость
- Интероцепция: модель внутреннего тела
- Нарративная самость
- Агентность и авторство
- Социальная идентичность
- Фрейд: историческая модель конфликта
- Нейронаука: распределенные процессы
- Сильнейшее возражение
- Ошибка возникла не в ответе
- Три уровня описания
- Возражение о маленьком управляющем
- Координация вместо командного центра
- Supervisory control: управление исключениями
- Условия остановки
- Сильнейшее возражение
- Коллективный Harness
- Два типа свободы
- Человек, который проектирует условия
- Глава 10. Архитектура Harness
- Минимальная схема
- Цели, ценности и ограничения
- Внимание: распределение вычислительного бюджета
- Планирование: временная структура действия
- Инструменты и полномочия
- Остановка и эскалация
- Быстрая петля
- Медленная петля
- Внутренний и внешний Harness
- Псевдокод когнитивного контура
- Карта отказов
- Сбой входа
- Сбой состояния
- Дрейф цели
- Захват внимания
- Ошибка памяти
- Коллапс гипотез
- План без пересмотра
- Неверный инструмент
- Избыточные полномочия
- Ошибка оценщика
- Ложное обучение
- Зацикливание
- Плохая эскалация
- Разбор сквозного случая
- Архитектура не гарантирует мудрость
- От архитектуры к ограниченному ресурсу
- Не прожектор и не топливо
- Цена переключения
- Бдительность и редкое важное событие
- Кейс: руководитель и пять агентов
- Измерять не занятость, а управляемость
- Контраргумент: внимание — не деньги
- Карта внимания
- Эпистемический итог
- Глава 12. Память и контекст
- Память — не запись прошлого
- Рабочая память: узкое настоящее
- Эпизодическое и семантическое: случай и правило
- Извлечение — это часть решения
- Контекстное окно — ограниченная аналогия
- Вспоминание изменяет вспоминаемое
- Забывание как функция
- Внешняя память и расширенное мышление
- Приватность: цена непрерывности
- Ложный персональный контекст
- Что помнить
- Где хранить
- Когда извлекать
- Как проверять
- Память как политика будущего
- Глава 13. Решение под неопределённостью
- Три разных дефицита знания
- Эвристики: ошибка или адаптация
- Накопление свидетельств
- Полезность и предел единой шкалы
- Достаточно хорошо
- Уверенность и калибровка
- Эмоции не противостоят решению
- Обратимость и ценность следующего шага
- Неизвестные неизвестные
- Цена информации
- Минимальный протокол решения
- Эпистемический итог
- Ошибка предсказания
- Кому приписать результат
- Задержка и невидимая обратная связь
- Подтверждение вместо проверки
- Одинарный и двойной контур обучения
- Когда метрика становится целью
- Наблюдение, эксперимент и причинная история
- Качество канала обратной связи
- Темп обновления
- Журнал гипотез и обновлений
- Когда не следует обновляться
- Эпистемический итог
- От метафоры к рабочей конструкции
- Диагностика существующего контура
- Карта внимания
- Карта интереса
- Карта ограничений
- Минимальная архитектура личного Harness
- Лестница полномочий
- Точки подтверждения
- Упражнение: паспорт одного контура
- Упражнение: красная команда
- Калибровка контура с другими людьми
- Конфликт нескольких контуров
- Версионирование правил
- Минимальный командный эксперимент
- Признаки первой рабочей версии
- Переход к следующей главе
- Глава 16. Ежедневный цикл
- Три режима работы
- Протокол начала блока
- Дневная точка проверки курса
- Делегирование подготовки
- Делегирование действия
- Ошибки подтверждения
- Вечернее закрытие
- Вечернее обновление модели
- Данные без культа метрик
- Еженедельное обновление
- Упражнение: семидневный эксперимент
- Срыв цикла и мягкий перезапуск
- Режим инцидента
- День после инцидента
- Переход к следующей главе
- Что считается решением
- Полотно Harness Canvas
- 1. Решаемый вопрос
- 2. Цель и горизонт
- 3. Владелец и затронутые стороны
- 4. Факты, источники и неизвестное
- 5. Варианты
- 6. Критерии
- 7. Ограничения
- 8. Риски и обратимость
- 9. Роль AI и границы полномочий
- 10. Подтверждение и остановка
- 11. Действие и наблюдение
- 12. Обновление
- Пример: публичная коммуникация
- Контраргумент: Canvas создает бюрократию
- Контраргумент: формализация скрывает ценности
- Упражнение: решение с красной командой
- Упражнение: премортем и предел потерь
- Упражнение: аудит AI-мандата
- Признаки качественного решения
- Завершение практического блока
- Глава 18. Экономика делегированной воли
- От ответа к действию
- Организация как система полномочий
- Когда покупателем становится поручение
- Доверие без лица
- Власть выбирать пространство выбора
- Ответственность после автоматизации
- Три уровня Harness
- Личный протокол делегирования
- Что остаётся человеку
- Глава 19. Исследовательская программа
- Что именно предлагается проверять
- Операциональная карта
- Калибровка — не просто скромность
- Надежность не равна стабильности человека
- Инвариантность между группами
- Изменение измерительного прибора
- H1. Калибровка
- H2. Адаптация в длительной задаче
- H3. Перенос
- H5. Прозрачность коллективного контура
- Исследование переноса
- Смешивающие факторы
- Компонентный анализ
- Как читать нулевой результат
- Анализ и защита от гибкости
- Этические границы эксперимента
- Адверсариальные проверки модели
- Репликация и обновление теории
- Кумулятивная программа
- Условия предварительного успеха
- Переход к последней главе
- Глава 20. Где модель ломается
- Steelman критики
- Честная граница
- Steelman критики
- Что модель может ответить
- Честная граница
- Steelman критики
- Что модель может ответить
- Четвертое возражение: Harness — гомункулус
- Steelman критики
- Что модель может ответить
- Честная граница
- Steelman критики
- Что модель может ответить
- Честная граница
- Что модель может ответить
- Честная граница
- Steelman критики
- Что модель может ответить
- Честная граница
- Steelman критики
- Честная граница
- Steelman критики
- Что модель может ответить
- Честная граница
- Десятое возражение: неравенство архитектур
- Steelman критики
- Что модель может ответить
- Честная граница
- Одиннадцатое возражение: пределы контроля
- Steelman критики
- Что модель может ответить
- Честная граница
- Steelman критики
- Что модель может ответить
- Честная граница
- Итоговый эпистемический статус
- Не идеально управляемый человек
- Приложения
- Приложение A. Краткий словарь
- Приложение B. Минимальный Harness Canvas
- Об авторе