Илон Маск направил открытое письмо с просьбой прекратить обучение систем искусственного интеллекта
Илон Маск и еще 1000 выдающихся человек в области технологий направили открытое письмо с подписями, в котором призвали ведущие лаборатории искусственного интеллекта мира приостановить обучение новых сверхмощных систем на шесть месяцев, заявив, что последние достижения в области ИИ представляют «глубокие риски» обществу и человечеству, передает TIME.
Письмо было отправлено всего через две недели после публичного выпуска OpenAI GPT-4, самой мощной системы искусственного интеллекта из когда-либо выпущенных, что может приблизить появление AGI — искусственного интеллекта, превосходящего человеческие когнитивные способности. Многие эксперты опасаются, что по мере того, как гонка вооружений ИИ накаляется, человечество скатывается к катастрофе.
«Усовершенствованный ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять им с соразмерной тщательностью и ресурсами», — говорится в письме. «К сожалению, такого уровня планирования и управления не существует, хотя в последние месяцы лаборатории искусственного интеллекта оказались вовлечены в неконтролируемую гонку по разработке и развертыванию все более мощных цифровых умов, которые никто — даже их создатели — не может понять, прогнозировать или надежно контролировать».
Список подписантов включает в себя имена более 1000 человек наряду с Маском, включая соучредителя Apple Стива Возняка, автора Sapiens Юваля Ноя Харари и некоторых наиболее выдающихся ученых в области искусственного интеллекта, ответственных за многочисленные прорывы в области машинного обучения. По состоянию на вторник, 28/03, ни один из сотрудников OpenAI не подписал письмо, хотя имя генерального директора Сэма Альтмана ненадолго появилось, а затем исчезло из списка подписавших. В списке также фигурируют как минимум четыре сотрудника Google, в том числе трое из дочерней лаборатории искусственного интеллекта DeepMind, Эмад Мостак, генеральный директор Stability AI, и Тристан Харрис, исполнительный директор Центра гуманных технологий. TIME не смог проверить подлинность всех подписей.
Подписывайтесь на наши соцсети, чтобы быть в курсе всех новостей: