Змеиное масло
Авторы вводят занятую формулировку: "Змеиное масло" в сфере нейросетей - это технологии ИИ, которые не работают и не могут работать так, как обещано в рекламе.
Сейчас, в 2026 году, многие буквально помешались на внедрении нейросетей. Я не спорю: есть сферы (например, IT), где ИИ открывает фантастические возможности. Но авторы книги - преподаватели Принстона - доходчиво объясняют, почему полная автоматизация, особенно в социальной сфере, пока что утопия.
Они делят ИИ на два типа: генеративный и предиктивный.
· Генеративный - это всё, что создаёт контент: картинки, музыка, тексты, видео. Его чаще используют в рекламе и развлечениях. Но есть и обратная сторона: авторам музыки, текста и иллюстраций зачастую ничего не перепадает, а сгенерированные изображения порой содержат фрагменты чужих работ (вплоть до авторских подписей). Это этическая проблема, которой в книге уделено много внимания.
· Предиктивный ИИ (системы, анализирующие данные для прогнозов) вызывает у авторов куда больше тревоги. И они подкрепляют это печальными примерами. ИИ отлично предсказывает, если ничего не меняется. Но он путает корреляцию с причинно-следственной связью (в книге отличный пример: наличие астмы не снижает риск осложнений от пневмонии, хотя ИИ может опознать такую связь). Главная беда в том, что предиктивный ИИ не учитывает последствий своих решений.
Особенно жуткими оказались истории про модели психологической поддержки, которые выдавали опасные советы, подталкивая людей к трагическим исходам, и провалы в медицине. Читается это как триллер, хотя воды в книге многовато.
Несмотря на это, книга очень занятная и заставляет задуматься. Ставлю 8 из 10 за важность темы и живые примеры.
35 понравилось
