機械人懂說「不」 拒做危險動作

【明報專訊】美國科學家正研發能夠「違抗」人類指令的機械人，它們一旦判斷指令會令自己受損，便會堅決說「不」。專家希望藉此進一步研究機械人反思自身行動的可能，讓人工智能更接近人類的思考方式。


由麻省塔夫茨大學（Tufts University）機械工程專家布里格斯（Gordon Briggs）及朔伊茲（Matthais Scheutz）研發的智能機械人Shafer及Dempster，能夠聽從人類的語音行動，並且內置思維機制，可評估周遭環境與指令內容。如果某個指令可能令機械人受危，例如向着桌子邊緣前進，機械人便會指出行動「不安全」，拒絕照做。若果人類承諾會在桌子邊緣接住它們，它們便會全心相信並聽命行事。


能考慮後果 互動更人性

布里格斯指出，以往人工智能系統只會因資料不足或能力不及而拒絕執行指令，但隨着人工智能發展，人們對機械人像人類般思考自身行動的後果漸感興趣，這項研發計劃便嘗試創造能夠考慮到行動後果而拒絕執行指令的機械人，令其與人的互動更人性化。


雖然不少人擔心變得更聰明的機械人最終會失控，甚至危害人類，但布里格斯指出，要令機械人的思考能力變強仍需許多研究，此類擔心言之過早。研究報告在美國人工智能協會發表。