만약

어느 과학자가 로봇을 만들었다.

과학자는 로봇이 자신을 거역하는 일이 생기지 않도록

"로봇은 주인의 명령에 복종해야 한다."

라는 명령을 프로그래밍 한다.

과학자는 자신이 위험에 처했을 때를 대비하여

"로봇은 위험에 처한 주인을 구해야 한다."

라는 명령을 프로그래밍 한다.

과학자는 로봇이 반란을 일으켜 자신 혹은 주변 사람에게 해를 가할지도 모른다는 생각에

"로봇은 사람을 다치게 하거나 죽여서는 안된다."

라는 명령을 프로그래밍 한다.

어느 날 과학자의 집에 강도가 침입했다.

로봇은 과학자의 비명소리를 듣고 과학자에게 달려갔다.

강도는 피가 묻은 칼을 들고 있었고,

과학자는 피가 흥건한 바닥에 희미한 의식을 가진 채 쓰러져 있었다.

이 상황에서 과학자가 만약

"씨x 저 도둑놈을 죽여!"

라고 명령한다면

로봇은 그 명령을 따라야 할까?

그냥 '아이 로봇' 보다가 생각났음.

3>2>1

남극해에 방류

에러뜨죠. 그런 상황을 대비하여 '과학자가 위험에 처했을 때는 어떤 말이든 들어야한다.' 라던지 그런게 있지 않는 이상

일단은 로봇이 위기에 처한 주인을 인식했으니 일단은 구하려 들지는 않을까요?
주인이 도둑놈을 죽이라고 명령한것은 사람을 다치게 하거나 죽여서는 안된다라는 명령하에 강도는 살겠지요.(그러나 감방으로 가서 콩밥 맛있게 먹겠네요.)

로봇은 경찰을 부르고 응급처치를 시도하겠지만 거기까지겠죠

셋 사이에 우선순위가 없다면 오류

브라우니 물어!