Исследователи учат роботов не вредить людям
Всем любителям научной фантастики известен первый закон робототехники: робот не может нанести вред человеку или бездействием допустить, чтобы человеку был причинен вред. Однако очевидно, что этот закон не имеет смысла, если роботы не знают, что значит – не нанести вред человеку.
Любопытным экспериментом занялись ученые Люблянского университета (Словения). В нем принимают участие шестеро мужчин и робот. Робот бьет мужчин по рукам, чтобы определить болевой порог. Цель первой части исследования – дать роботу понятие того, как человек терпит боль.
На втором этапе робота учат прекращать действия, если они привели к превышению болевого порога. Другими словами, если робот делает человеку больно, он автоматически останавливается.
Эксперимент основывается на идее, что рано или поздно человечество в той или иной мере столкнется с роботами. Ученые стараются сделать так, чтобы это столкновение не было слишком сильным. Исследователи предпринимают первые шаги по изучению оптимальной скорости и ускорения действий роботов, а также определяют набор инструментов, которые роботы могут использовать так, чтобы не нанести вред человеку.
Говоря простым языком, словенские ученые пытаются убедиться, что, если робот ударит человека, последствия не будут катастрофическими. В ходе эксперимента робот держит в одной клешне тупой и круглый предмет, а в другой – чуть более острый. Как говорилось выше, этими предметами робот бьет участников эксперимента по рукам. Затем последние сообщают о своих ощущениях, на основании чего вносятся коррективы в программу робота.
В конечном итоге ожидается, что материалы исследования послужат основой для создания роботов, которые своими действиями не смогут физически повредить человеку. При этом имеются в виду лишь физические действия, ни о каком влиянии на искусственный интеллект, способный принимать собственные решения, речи не идет.
*