- •Препринт
- •Часть 1. Общие обзоры темы 6
- •Часть 2. Оценка вероятности глобальной катастрофы 201
- •Часть 3. Глобальные риски и новые технологии 374
- •Часть 4. Глобальные риски, связанные с природными катастрофами 545
- •Предисловие
- •Часть 1. Общие обзоры темы глобальных рисков Билл Джой. Почему мы не нужны будущему
- •Вернор Виндж. Технологическая Сингулярность
- •Ник Бостром. Угрозы существованию: Анализ сценариев человеческого вымирания и других подобных опасностей.
- •Введение
- •Типология рисков
- •Риски существованию
- •Уникальность проблемы угроз существованию
- •4. Классификация рисков существованию
- •5. Взрывы
- •5.1. Преднамеренное злоупотребление нанотехнологиями
- •5.2. Ядерный холокост
- •5.3. Мы живем в симуляции, и она выключается
- •5.5. Генетически сконструированный биологический объект
- •5.6. Ошибочное применение опасных нанотехнологий («серая слизь»).
- •5.7. Нечто непредвиденное
- •5.8. Катастрофы в результате физических экспериментов
- •5.9. Естественно возникшее заболевание
- •5.10. Столкновение с астероидом или кометой
- •5.11. Неудержимое глобальное потепление
- •6. Сужения
- •6.1. Истощение ресурсов или разрушение экологии
- •6.2. Сбившееся с курса мировое правительство или другое неподвижное социальное равновесие остановит технологический прогресс
- •6.3. Давление «вырождения»
- •6.4. Технологическая остановка
- •7. Скрипы
- •7.2. Сверхинтеллект с ошибкой
- •7.3. Глобальный репрессивный тоталитарный режим
- •7.4. Нечто непредвиденное1
- •8. Всхлипы
- •8.1. Наш потенциал и даже наши базовые ценности разъедаются развитием в ходе эволюции
- •8.2 Уничтожение внеземной цивилизацией
- •9.2 Парадокс Ферми
- •9.3 Эффекты наблюдательной селекции
- •9.4 Рассуждение о Симуляции
- •9.5 Когнитивные искажения
- •9.6 Оценка собранных данных
- •10. Рекомендации, касающиеся стратегии и этики
- •10.1. Поднимать известность проблемы рисков существованию
- •10.2 Создать структуру для международных действий
- •10.3 Сохранять готовность к превентивному действию в качестве последнего средства
- •10.4 Регулирование скорости развития технологий
- •10.5 Программы, направленные на прямое уменьшение конкретных угроз существованию
- •10.6. Максипок: эмпирическое правило для этичных поступков
- •Выражения признательности
- •Приложение: очерк эволюционного «всхлипа»
- •Библиография
- •Елиезер Юдковски. Когнитивные искажения, влияющие на оценку глобальных рисков
- •Введение
- •1. Доступность информации
- •2. Когнитивные искажения, связанная со знанием «задним числом».
- •3. Черные лебеди
- •4. Ошибочное включение лишнего элемента
- •5. Ошибочность рассуждений, вызванная эффектом подтверждения
- •6. Якорение, настройка и загрязнение
- •7. Рассуждения, обусловленные аффектом
- •8. Пренебрежение масштабом
- •9. Калибровка и сверхуверенность
- •10. Апатия прохожего
- •Последнее предупреждение
- •Заключение
- •Рекомендуемое чтение
- •Библиография
- •Дэвид Брин. Сингулярность и кошмары
- •А.А. Кононов.Идеологические начала общей теории неуничтожимости человечества
- •Угрозы уничтожения человечества
- •Неуничтожимость как главная сверхзадача цивилизации
- •Качества неуничтожимой цивилизации
- •О необходимости разработки теоретических основ решения задач неуничтожимости человечества
- •Робин Хансен. Катастрофа, социальный коллапс и человеческое вымирание
- •Алексей Турчин. Процессы с положительной обратной связью как основной механизм глобальных катастроф
- •Часть 2. Оценка вероятности глобальной катастрофы Ник Бостром1, Макс Тегмарк2. Насколько невероятна катастрофа судного дня?
- •Ник Бостром. Рассуждение о Конце Света для начинающих
- •Ник Бостром. Doomsday Argument жив и брыкается
- •Ник Бостром Доказательство симуляции
- •1.Введение
- •2. Предположение о независимости от носителя
- •3.Технологические пределы вычислений
- •4. Ядро доказательства о симуляции
- •5. Мягкий принцип равнозначности
- •6. Интепретация
- •7. Заключение
- •Введение: угрозы существованию и эффекты наблюдательной селекции
- •«Карманная» модель антропного искажения1
- •Обобщение модели
- •Антропное искажение: недооценка естественных угроз
- •Какие угрозы существованию подвержены антропной тени?
- •Антропные тени и риски физических экспериментов
- •Заключение
- •Приложение: словарь
- •Благодарности
- •Алексей Турчин. Природные катастрофы и антропный принцип
- •Введение
- •1. Антропный принцип. Эффект наблюдательной селекции. Результаты Бострома и Тегмарка
- •2. Природные катастрофы
- •3. Применение антропного принципа для анализа частоты природных катастроф
- •4. Нарушение устойчивости природных систем, находящихся на грани равновесия, в связи с человеческой деятельностью
- •5. Быстрая эволюция разума в периоды высокой интенсивности природных катастроф
- •6. Заключение
- •Приложение a. Плотность наблюдателей во вселенной, частота катастроф и антропный принцип
- •Литература:
- •Тоби Орд, Рафаела Хиллербранд, Андрес Сандберг. Проверяя непроверяемое: методологические вызовы в оценке рисков с низкой вероятностью и высокими ставками
- •Введение
- •Оценка вероятностей
- •3. Теории, модели и вычисления
- •4. Применение нашего анализа к рискам экспериментов на ускорителях
- •5. Заключение
- •Эдриан Кент. Критический обзор оценок рисков глобальных катастроф
- •Часть 3. Глобальные риски и новые технологии Eлиезер Юдковски. Искусственный интеллект как позитивный и негативный фактор глобального риска
- •1. Систематическая ошибка, связанная с антропоморфизмом
- •1.1: Широта пространства возможных устройств ума
- •2: Предсказание и устройство
- •4: Способности и мотивы
- •4.1: Процессы оптимизации
- •4.2: Наведение на цель
- •5: Дружественный ии
- •6: Техническая неудача и философская неудача
- •6.1: Пример философской ошибки
- •6.2: Пример технической неудачи
- •7: Темпы усиления интеллекта
- •8: Оборудование
- •9: Угрозы и перспективы
- •10: Локальные стратегии и стратегии большинства
- •11: Ии и усиление человеческого интеллекта
- •12: Взаимодействие ии и других технологий
- •13: Ход прогресса в области Дружественного ии
- •Роберт Фрейтас. Проблема Серой Слизи
- •Crn. Опасности молекулярного производства
- •М. Вассер, р.Фрайтас. Проект «Нанощит»
- •Алексей Карнаухов. Парниковая катастрофа.
- •Милан Чиркович, Ричард Каткарт. Гео-инженерия, пошедшая насмарку: новое частное решение парадокса Ферми
- •1. Введение
- •2. Макроинженерия и сценарий катастрофы
- •3. Миссия к центру Земли
- •4.Начало процесса вымирания
- •5.Применение сказанного к проблемам астробиологии
- •6. Культурологические и климатологические аспекты
- •7.Заключение
- •Ричард Керригэн. Следует ли обеззараживать сигналы seti?
- •А.В.Турчин. Глобальные риски, связанные с программой seti
- •1. История вопроса
- •2. Сценарий возможной атаки
- •3. Анализ возможных целей атаки
- •4. Возражения
- •П.Д. Смит. Кобальтовая бомба (отрывок из книги «Люди судного дня»)
- •Часть 4. Глобальные риски, связанные с природными катастрофами Владислав Пустынский. Последствия падения на Землю крупных астероидов
- •Уильям Нейпьер. Опасность комет и астероидов
- •1. Нечто вроде огромной горы
- •2.Как часто по нам бьют?
- •2.1 Ударные кратеры
- •2.2. Поиск околоземных объектов
- •2.3. Динамический анализ
- •3. Эффекты столкновения
- •4. Роль пыли
- •5. Наземная проверка?
- •6. Неопределённости
- •Майкл Рампино. Супервулканизм и другие катастрофические геофизические процессы
- •3. Вулканическая зима
- •4. Возможные последствия сверхизвержения для окружающей среды
- •5. Сверх-извержения и человеческая популяция
- •6. Частота сверхизвержений
- •7. Влияние сверхизвержения на цивилизацию
- •8. Сверхизвержения и жизнь во Вселенной
- •Арнон Дар. Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду
- •1. Введение
- •2. Радиационные угрозы
- •2.1 Достоверные угрозы
- •2.2. Солнечные вспышки
- •2.3. Солнечная активность и глобальное потепление
- •2.4 Вымирание в результате солнечной активности
- •2.5 Излучение от взрывов сверхновых
- •2.6 Гамма-всплески
- •3. Угрозы от космических лучей.
- •3.1 Изменения магнитного поля Земли
- •3.2 Солнечная активность, космические лучи и глобальное потепление
- •3.3 Прохождение через галактические спиральные рукава
- •3.4 Космические лучи от недалёкой сверхновой
- •3.5. Космические лучи от гамма-всплесков.
- •4. Причины крупнейших массовых вымираний
- •5. Парадокс Ферми и массовые вымирания
2.2. Солнечные вспышки
Солнечные вспышки являются наиболее высокоэнергетичными взрывами в Солнечной системе. Они происходят в солнечной атмосфере. Первая солнечная вспышка зафиксированная в астрономической литературе Ричардом Кэррингтоном, (Richard C. Carrington), случилась 1 сентября 1959 года. Солнечные вспышки приводят к выбросам электромагнитной радиации, энергетических электронов, протонов и атомных ядер (солнечные космические лучи) и замагниченной плазмы из локальной области на Солнце. Солнечная вспышка происходит, когда магнитная энергия, которая накопилась в солнечной атмосфере, внезапно выделяется. Излучаемая электромагнитная радиация распределена по всему спектру, от радиоволн через оптический диапазон до рентгеновских и гамма-лучей. Энергии солнечных космических лучей достигают нескольких гигаэлектрон вольт, то есть 109 еВ (1 ev = 1, 6021753(14)* 10-13 J). Частота солнечных вспышек варьируется от нескольких в день, когда Солнце особенно активно, до одной в неделю, когда Солнце спокойно. Подготовка солнечной вспышки занимает несколько часов или дней, но во время самой вспышки энерговыделение происходит только за несколько минут.
Полное выделение энергии при вспышке имеет порядок 1027 эрг/сек. Большие вспышки могут выбросить около 1032 эрг. Эта энергия менеше, чем одна десятая полной энергии, излучаемой Солнцем за одну секунду. (I. = 3.84 x 1033 erg s -1). В том маловероятном случае, если вся магнитная энергия Солнечной атмосферы разрядится в одной вспышке, энергия Солнечной вспышки не может превышать ~ B2R3/12 ~ 1.4 x 1033 erg, где B=50 гауссов – это сила солнечного дипольного магнитного поля и R=7*1010 см – солнечный радиус. Но даже эта энергия – это только одна треть от полной энергии, излучаемой Солнцем каждую секунду. Таким образом, отдельные солнечные вспышки не могут вызвать глобальную катастрофу на Земле. Однако солнечные вспышки и связанные с ними коронарные выбросы сильно влияют на нашу комическую погоду. Они создают потоки высокоэнергетичных частиц в солнечном ветре и земной магнитосфере, которые могут представлять опасность для космических аппаратов и космонавтов. Мягкие рентгеновские лучи от солнечных вспышек увеличивают ионизацию верхней атмосферы, что может влиять на коротковолновую радиокоммуникацию и может увеличивать сопротивление атмосферы низкоорбитальным спутникам, приводя к снижению их орбиты. Космические лучи, которые проходят сквозь биологические тела, наносят им биохимический ущерб. Большое число солнечных космических лучей и магнитных штормов, которые создаются большими солнечными вспышками, представляют опасность для незащищённых космонавтов в межпланетном пространстве. Земная атмосфера и магнитосфера защищает людей на Земле.
2.3. Солнечная активность и глобальное потепление
Глобальные температуры выросли в XX веке на примерно 0,75 градуса °С по отношению к периоду 1860-1900 гг. Измерения на суше и на море независимо показывают одинаковое потепление с 1860 г. В течение этого периода концентрация СО2 в земной атмосфере увеличилась примерно на 27% с 290 до 370 частей на миллион (ppm). Этот уровень значительно выше, чем когда-либо за последние 800 000 лет – за период, на который есть надёжные данные на основании кернов льда. Это увеличение СО2 в атмосфере считается связанным с антропогенной активностью – в основном, со сжиганием ископаемых и сведением лесов. Недавно Международная Панель по Климатическим Изменениям IPCC пришла к выводу, что «большая часть наблюдаемого увеличения глобальных температур с середины XX века связана с наблюдаемым увеличением концентрации парниковых газов» посредством парникового эффекта (процесс, в котором инфракрасное излучение атмосферы нагревает поверхность планеты, как это происходит на Марсе, Земле и особенно на Венере, что было открыто Иосифом Фурье в 1829 г.). основываясь на климатических моделях, учёные предполагают что глобальные поверхностные температуры вероятно возрастут на 1,1 – 6,4 °С к 2100 году. Увеличение глобальных температур должно привести к другим переменам, включая изменения уровня моря, увеличение интенсивности экстремальных погодных явлений, и изменения количества и характера осадков. Другие эффекты глобального потепления включают в себя изменения в уровнях урожайности, отступление ледников, вымирание видов и увеличение ареалов возбудителей опасных болезней.
Однако, хотя большинство учёных по существу согласны, что человечество должно резко сократить выбросы парниковых газов и других загрязнителей, есть учёные, которые не согласны с выводами IPCC о том, что есть существенные доказательства того, что выбросы антропогенного СО2 в атмосферу и других газов являются главной причиной глобального потепления. Они указывают на то, что половина наблюдаемого потепления пришлась на начало XX века, задолго до того, как имели место антропогенные влияния. Более того, Земля испытывала доисторические значительные потепления и похолодания много раз в прошлом, как следует из геологических данных и косвенных измерений прошлых глобальных температур, таких как концентрация молекул тяжёлой воды D2O и Нг18О в кернах льда: относительная скорость испарения этих молекул из морской воды в сравнении с обычной H2O увеличивается с температурой. Это увеличивает концентрацию молекул тяжёлой воды в осадках, которые затем затвердевают в виде льда на северном и южном полюсах Земли. В частности, ледяные керны со станций Восток и Эпикаант, которые датируются сроками до 740 000 лет назад, показывают восемь предыдущих циклов оледенения с сильными вариациями температуры от – 8 до +3 градусов в самые тёплые периоды. Изменения в атмосферной концентрации СО2 следуют вплотную за изменениями глобальной температуры. Сторонники теории об антропогенном глобальном потеплении утверждают, что значительный выброс парниковых газов из естественных источников привёл к прошлым глобальным потеплениям, тогда как другие считают, что выделение больших количеств СО2 из океанов было вызвано подъёмом температуры за счёт глобального потепления. К сожалению, до сих пор нет точных данных, которые могли бы показать, какое из событий предшествовало какому: увеличение СО2 или глобальное потепление.
Глобальное потепление остаётся активной областью исследований, хотя научный консенсус состоит в том, что именно антропогенные парниковые газы ответственны за него. Однако, консенсус – это не лучшее научное доказательство. Были предложены и другие гипотезы для объяснения увеличения средней глобальной температуры, и они должны быть исследованы научным образом. Одной из наиболее убедительной (для автора этой статьи) является гипотеза о том, что нынешнее глобальное потепление является в основном результатом уменьшения потока космических лучей, которые достигают атмосферы в результате увеличения солнечной активности (например см. Shaviv, 2005; Svensmark, 1998). Эта возможность рассматривается в секции 3.