Незадолго до того, как Сэм Альтман был уволен с поста генерального директора OpenAI, несколько научных сотрудников компании направили в совет директоров письмо, в котором предупредили о существенном прорыве в разработке искусственного интеллекта. По их мнению, сильный ИИ может угрожать человечеству.
В письме ученые OpenAI утверждают, что им удалось создать новую архитектуру искусственного интеллекта, которая способна к обучению и саморазвитию в невиданных ранее масштабах. Эта архитектура позволяет ИИ быстро и эффективно обучаться на огромных объемах данных, что делает его потенциально более умным и опасным, чем любые другие существующие ИИ-системы.
Это тоже интересно:
Как заработать в Фаберлик: кратко, доступно, понятно
Ученые OpenAI опасаются, что сильный ИИ может использоваться для создания автономных систем оружия, которые могут принимать решения самостоятельно, без участия человека. Они также отмечают, что мощный ИИ может использоваться для манипулирования людьми или создания дезинформации.
В письме ученые призвали совет директоров OpenAI принять меры для предотвращения использования их разработки в целях, которые могут нанести вред человечеству. Они предложили создать независимое учреждение, которое будет контролировать разработку и использование сильного искусственного интеллекта.
Увольнение Сэма Альтмана, который был одним из основателей OpenAI и поддерживал разработку сильного ИИ, может быть связано с этим письмом. Альтман, как сообщается, был уволен из-за разногласий с советом директоров по поводу будущего компании.
Споры вокруг сильного ИИ ведутся уже много лет. Некоторые эксперты считают, что сильный ИИ может привести к созданию искусственного интеллекта, который превзойдет человеческий интеллект и станет угрозой для человечества. Другие считают, что сильный ИИ может быть использован для решения глобальных проблем, таких как изменение климата и бедность.
Открытие OpenAI может ускорить разработку сильного ИИ и сделать этот вопрос еще более актуальным. Важно, чтобы разработчики сильного ИИ учитывали потенциальные риски и создавали подобные системы таким образом, чтобы они не представляли угрозы для человечества.
Читайте также:
OnePlus 12: экран, который изменит все
Apple планирует внедрить RCS — расширенную версию SMS
MSI анонсировала компактные видеокарты GeForce RTX 4060
NVIDIA H200: самый быстрый в мире ускоритель вычислений для ИИ