В грядущем появится много автономных интеллектуальных систем. Важно, чтобы они знали, чего хочет человек.
Сотрудники Стэндфордского университета создают эффективные способы управления роботами. Доцент кафедры компьютерных наук и электротехники Дорса Сэнди заявил: «В будущем станет больше автономных систем и очень важно, дабы они разбирались, что значит хорошо и плохо». Для этого роботов с искусственным интеллектом учат понимать желания людей. Им демонстрируют поведение человека в той или иной ситуации. Во время исследования участникам задают вопросы, а те отвечают на них. Результаты эксперимента фиксируются в базах данных. Полученная информация учитывается при создании роботов.
На выходе машина получит готовые ответы для решения типичных задач, которые могут повстречаться в реальной жизни. Роботы действуют быстрее, точнее и эффективнее человека. Тем не менее, они должны понимать желания людей, чтобы сделать мир лучше, а не хуже.
Инженеры планируют создать функции вознаграждения разумных моделей поведения. Например, робот должен понимать, что ехать быстро на машине на оживленных участках дороги опасно. Поэтому он обязан снизить скорость, хотя теоретически авто способно перемещаться более интенсивно. В случае обдуманного поведения робот получит награду. Пока инженеры не придумали, какую ценность подарить «интеллектуальной» машине, чтобы она получила удовольствие и далее вела себя в соответствии с правилами.
*