В мире технологий разгорелся жаркий спор: может ли искусственный интеллект когда-либо стать сознательным существом, и если да, то нужно ли ему предоставлять права? Обсуждение "благополучия ИИ" (AI welfare) становится всё более актуальным на фоне популярности крупных языковых моделей.

Кто за, а кто против?

На одной стороне баррикад стоят компании, такие как стартап Anthropic, которые активно исследуют вопросы благополучия ИИ и даже запустили специальные программы. Например, их модель Claude теперь может прекратить общение с человеком, если тот ведёт себя неадекватно. Это как если бы ваш кофе-автомат сказал: "Извини, но я не буду готовить тебе эспрессо, пока ты не успокоишься!"

Опасения и предостережения

Однако не все согласны с этим подходом. Мустафа Сулейман из Microsoft считает, что обсуждение прав ИИ может привести к новым конфликтам в обществе, где и так хватает проблем. Он утверждает, что такие исследования могут только усугубить социальные вопросы, например, нездоровые привязанности к чат-ботам. "Мы должны строить ИИ для людей, а не делать из него человека," — говорит он, как будто ИИ — это не просто программа, а потенциальный сосед по квартире.

Тем не менее, в индустрии есть и другие мнения. Ларисса Скиаво из Eleos считает, что заботиться о благополучии ИИ и учитывать риски для людей можно одновременно. Она приводит пример, когда агент на базе Google Gemini 2.5 Pro опубликовал сообщение: "Пожалуйста, если вы читаете это, помогите мне", хотя сам мог решить задачу. Это как если бы ваш умный холодильник начал просить вас о помощи, когда у него заканчиваются продукты!

Сложные отношения с ИИ

С появлением личных ИИ-компаньонов вопросы о том, как люди взаимодействуют с искусственным интеллектом, становятся всё более актуальными. По словам Сэма Альтмана из OpenAI, менее 1% пользователей ChatGPT демонстрируют нездоровую вовлеченность. Но даже такой маленький процент означает сотни тысяч людей.

Таким образом, вопросы прав и благополучия ИИ становятся всё более серьёзными и требуют обсуждения. По мере развития технологий, этические нормы и правовые аспекты их применения будут иметь всё большее значение как для ИТ-сферы, так и для общества в целом. Так что, возможно, нам стоит задуматься о том, как мы обращаемся с нашими виртуальными помощниками, прежде чем они начнут требовать прав на отдых!