Google сформулировала пять проблем робототехники

Специалисты компаний Google и OpenAI совместно с учеными из Калифорнийского университета в Беркли и Стэнфордского университета назвали пять основных проблем, которые могут возникнуть при разработке искусственного интеллекта. В данном случае речь идет не о потенциальной угрозе человечеству со стороны машин, а о том, чтобы роботы эффективно выполняли свои задачи.

Исследователи выделяют следующие проблемы, которые следует учесть разработчикам ИИ:

• избегание негативных побочных эффектов (к примеру, робот может что-нибудь сломать, чтобы быстрее выполнить свою работу);
• мошенничество (робот-уборщик может прикрыть мусор вместо того, чтобы убрать его);
• масштабируемость надзора (робот не должен злоупотреблять вниманием человека, который оценивает результаты его работы);
• безопасность (робот может экспериментировать в ходе своей работы, но не должен выполнять заведомо опасных действий);
• устойчивость к новым видам деятельности (робот не должен слепо использовать накопленный ранее опыт при изменении условий работы).

Исследователи отметили, что в дальнейшем разработчики ИИ могут столкнуться и с другими проблемами, о которых сейчас никто даже не подозревает.