За последние месяцы нейросети стали чрезвычайно популярными. Во многом это заслуга ChatGPT и генеративных нейросетей. Однако разработчики смотрят в будущее и прогнозируют новые проблемы на этом поприще. В блоге OpenAI вышла статья, где говорится о довольно скором появлении Artificial general intelligence (AGI). Это можно перевести как «ИИ общего назначения», сами же авторы подразумевают под этим термином ИИ, который может любые задачи не хуже человека, а порой даже лучше.
В статье говорится, что AGI должен «расширить возможности человечества для максимального процветания», однако он может принести также и потенциальные проблемы. Чтобы заблаговременно подготовиться к ним, в OpenAI предложили набор принципов, которыми команда руководствуется в своей работе над AGI.
Список их выглядит так:
- Развертывание и изучение не слишком мощных ИИ-систем в реальном мире, что позволит получить опыт работы с ними и обратную связь.
- Упрощение доступа к ИИ-системам для всех желающих.
- Поддержка ИИ человеческих ценностей и предпочтений.
- Взаимодействие международных структур для использования и регулирования ИИ.
- Обмен данными и опытом о прогрессе ИИ с общественностью, а также привлечение заинтересованных сторон, которые могут внести вклад в развитие ИИ.
Это лишь самые основные моменты, другие могут возникнуть уже по мере развития AGI и буду зависеть от вышеперечисленных факторов. Ведь пока сложно предсказать, насколько быстро будет развиваться такой ИИ, насколько хорошей будет координация усилий и взаимодействие между разными странами. Также неясно, насколько хорошо AGI будет учитывать именно человеческие цели, утремления и предпочтения.
В OpenAI также отметили что у них самих есть не все ответы и решения для потенциальных проблем в будущем, особенно после того, как AGI станет массовым явлением. Там рассчитывают, что в долгосрочной перспективе эти и другие требования к развитию ИИ станут обязательными для всех.
