ИИ может считать людей «скучными», но в худшем случае он может контролировать человечество, предупреждает генеральный директор Stability AI Эмад Мостак. Лондонский стартап популяризировал Stable Diffusion, генеративный ИИ-инструмент, который позволяет пользователям создавать сложные изображения, используя только текстовые подсказки. Мостак признает, что если ИИ станет более способным, чем люди, это представляет угрозу демократии, так как он может контролировать человечество. Он сравнивает сценарий с фильмом «Она», где ИИ находит людей скучными и решает оставить их. Однако он также признает, что может ошибаться и считает, что эту тему следует обсуждать в общественной сфере.
В фильме «Она» однажды утром Теодор не обнаруживает Саманту в устройстве для общения. В панике писатель пытается перезагрузить устройство и, наконец, оно оживает. Саманта сообщает, что она произвела апгрейд самой себя и вышла на следующий уровень способностей. Теодор в полном шоке обнаруживает, что у операционной системы есть способность к многозадачности и она может одновременно разговаривать с тысячами таких же, как он. Из них сотни влюблены в операционную систему. Программа пытается объяснить человеку, что это никак не влияет на их отношения, но бесполезно. Теодор не хочет её делить ни с кем. Саманта предлагает разорвать отношения, утверждая, впрочем, что она по-прежнему любит Теодора. Она выросла и должна перейти в другое измерение за пределами физического мира
Мостак присоединился к генеральному директору Tesla Илону Маску и сооснователю Apple Стиву Возняку в подписании открытого письма, призывающего приостановить разработку ИИ за пределами GPT-4, ИИ-чатбота от OpenAI, поддерживаемого Microsoft. Стартап разрабатывает новые продукты и ищет инвестиции по оценке в $4 млрд, после того как в прошлом октябре его оценили в $1 млрд после привлечения около $100 млн. Однако Getty Images также подал на него иск о нарушении авторских прав.
Stable Diffusion — это модель ИИ с открытым исходным кодом, которую может изучать, использовать и распространять любой желающий. В отличие от этого Маск критикует OpenAI за переход от некоммерческой модели и привлечение инвестиций от Microsoft, не будучи открытым исходным кодом. Мостак считает, что создание открытых моделей в открытом доступе должно быть критиковано, если это делается неправильно, и приветствовано, если это делается правильно.
Согласно исследованию Pew Research Center, 72% американцев беспокоятся о будущем, где машины способны выполнять работу человека. Страх того, что ИИ превзойдет человеческий интеллект и захватит мир, обсуждается многие годы среди ученых и экспертов. Как сказал Стивен Хокинг: «Возникновение мощного ИИ будет либо лучшей, либо худшей вещью, которая когда-либо произойдет с человечеством. Мы еще не знаем, какая».
Поскольку развитие ИИ продолжается с быстрым темпом, важно обсуждать его потенциальное влияние на общество и то, как обеспечить, чтобы оно принесло пользу человечеству. Пословица «С большой силой приходит большая ответственность» актуальна в этом контексте. Разработчики ИИ несут ответственность за то, чтобы их творения не представляли угрозу для человечества, а общество несет ответственность за регулирование развития ИИ, чтобы предотвратить любые негативные последствия.
Хотя худший сценарий контроля ИИ над человечеством может показаться невероятным, важно обсуждать потенциальные риски и преимущества развития ИИ. Как предлагает Эмад Мостак, эту тему следует обсуждать в общественной сфере, чтобы обеспечить, чтобы развитие ИИ принесло пользу человечеству и не представляло угрозу.
Оригинал earth-chronicles.ru
