На днях наткнулся на довольно пугающий материал, который заставил меня серьёзно задуматься о направлении развития современной науки об искусственном интеллекте. Исследователи из крупнейших лабораторий начали открыто говорить о том, что мы движемся в довольно опасное будущее, и это не очередная кликбейтная статья.
Голоса из центров силы
Что особенно настораживает — это люди, которые говорят. Это не интернет-активисты или фантасты, а учёные, которые непосредственно работали над развитием самых продвинутых систем ИИ. Они имели доступ к внутренней информации, понимают, как на самом деле устроены эти системы, и знают о их возможностях больше, чем кто-либо ещё.
Один из них, человек с серьёзным опытом в ведущих исследовательских организациях, выразился предельно ясно: шансы на то, что эта технология приведёт к экзистенциальной угрозе для человечества, находятся примерно на уровне 50 на 50. Согласитесь, это звучит не как академическая дискуссия, а как серьёзное предупреждение.
Консенсус, который нельзя игнорировать
Интересно, что это не одиночные голоса скептиков. Множество специалистов из Google, OpenAI и других ведущих компаний выражают похожие опасения. Они создали целый проект с интервью, где учёные объясняют свои позиции открытым текстом. И это не панические высказывания — это взвешенные оценки людей, которые знают предмет изнутри.
Некоторые коллеги говорят о том, что вероятность катастрофического сценария составляет как минимум десять процентов. Да, это звучит не так страшно, как 50%, но когда речь идёт о судьбе человечества — даже один процент должен вызывать серьёзный разговор.
Что это значит для нас?
Меня поражает контраст между открытостью научного сообщества в этих интервью и тем, как мало об этом говорят в мейнстриме. Люди обсуждают новый смартфон, а учёные предупреждают о потенциальных экзистенциальных рисках.
Это не означает, что нужно паниковать. Но это точно означает, что нужно внимательнее следить за тем, как развивается эта технология, и поддерживать исследования, направленные на её безопасность.
Оставайтесь в курсе — будущее создаётся прямо сейчас.