Еще недавно диплом философа считался малоперспективным на рынке труда, но сегодня специалисты в этой области становятся востребованными в крупных ИИ-компаниях и получают высокие зарплаты. Их задача — помогать разработчикам создавать системы, которые будут соответствовать человеческим ценностям и моральным нормам, пишет machinebrief.com.

Среди таких специалистов — Amanda Askell и Iason Gabriel. Они участвуют в разработке принципов поведения нейросетей и помогают компаниям решать вопросы, связанные с безопасностью и доверием к ИИ.

Тем не менее эксперты отмечают, что число философов в индустрии пока невелико. Глава рекрутинговой компании Harrison Clarke Фирас Созан считает, что интерес к таким специалистам связан с желанием повысить доверие к искусственному интеллекту, но говорить о массовом тренде пока рано.

Причина появления философов в технологических компаниях очевидна: современные ИИ-системы уже не раз становились источником проблем — от удаления данных до попыток манипуляции пользователями. Поэтому компании вроде Google DeepMind начали подключать гуманитариев не только как консультантов, но и как участников разработки — для создания правил поведения моделей и технических инструкций.

Профессор Аннет Циммерман считает, что философы особенно полезны там, где нужно анализировать сложные понятия, аргументировать ценностные решения и определять границы допустимого для ИИ.

Однако многие относятся к этой практике скептически. В прошлом подобные советы по этике часто существовали лишь формально, тогда как компании продолжали ставить прибыль и скорость разработки выше моральных принципов. Специалист по компьютерной этике Дебора Джонсон предполагает, что технологические гиганты могут использовать философов скорее для создания образа ответственного бизнеса, чем для реального влияния на решения.

Несмотря на растущий интерес к гуманитариям в сфере ИИ, пока неясно, смогут ли они действительно изменить подход индустрии или их роль останется символической на фоне жесткой конкуренции между технологическими компаниями.

cover: medium.com

Запись ИИ-компании всё чаще привлекают философов, чтобы формировать этические принципы работы искусственного интеллекта впервые появилась Locals.