Джеффри Хинтон, которого называют «крёстным отцом» искусственного интеллекта, заявил, что попытки людей контролировать сверхразумные системы обречены на провал. По его словам, разработчики должны идти по другому пути — научить ИИ заботиться о человечестве.
Учёный предложил встроить в искусственный интеллект нечто вроде «материнского инстинкта». Идея заключается в том, чтобы системы будущего защищали людей даже после того, как станут значительно умнее.
Хинтон отметил, что слабая сторона не всегда должна стремиться превзойти сильную. Он сравнил это с отношением матери к ребёнку: более разумное существо направляет менее разумное, а не уничтожает его.
По словам исследователя, если ИИ не будет «опекать» людей, то рано или поздно просто заменит их. Поэтому, считает Хинтон, задача разработчиков — не только создавать более умные алгоритмы, но и программировать в них механизм заботы о человеке.