인간의 오류가 잘못인가? 아니, 나쁜 설계가 문제다

2014년 4월 14일 링크드인 투데이에 올라온 도널드 노먼의 글.

인간의 오류가 사고를 일으키는가? 그렇다. 하지만 오류에 이르는 원인을 알아야 한다. 대다수의 경우 인간 오류는 장치와 절차의 부적절한 설계에서 온다.

혁명을 시작할 때다. 인간 중심적으로 기술에 접근해야 함을 강력히 주장할 때다.

여객선 사고를 다루는 방법

2014년 4월 8일, 뉴욕 타임스는 2013년 1월 여객선이 부두와 충돌해 80명이 부상 당하고 그중 4명이 중상을 입은 불행한 사고에 대한 미국 연방교통안전위원회(NTSB) 보고를 크게 보도했다. 헤드라인은 “이스트 강 여객선 충돌사고는 선장과 설계의 잘못”이었다. 이 헤드라인은 틀렸다. NTSB는 제대로 알고 있었다. NTSB 데보라 허스먼 위원장은 이렇게 썼다.

“그렇습니다. 저희 조사로는 사고일 선장이 저지른 최종적인 오류가 있었지만 오래 전부터 시스템 설계에 최초 취약점들이 존재했음을 확인했습니다. 밧줄이 낡아서 헤어지는 과정처럼 언제나 사고는 놓쳐버린 기회들이 엮여 발생하는데, 비난은 보통 마지막으로 끊어진 밧줄 가닥, 흔히 인간을 향합니다.”

(2014년 4월 8일, NTSB 위원장 데보라 허스먼 최종 발언)

허스만은 그 우아한 논평으로 문제를 제대로 언급했다. 나쁜 설계와 절차는 붕괴로 이어지고, 결국 그 마지막 연결고리에 있는 사람이 비난과 벌을 받는다. 자주 반복되는 이야기다. 사람이 다치거나 죽는 비극적인 사고가 발생한다. 원인을 찾기 위한 조사가 시작된다.

결국 원흉을 찾는다. 주입기를 잘못 설정한 간호사, 주입량을 잘못 입력한 기술자, 비행 장치에 코드를 잘못 입력한 파일럿, 정확한 조치를 취하지 못한 선장.

옳지! 인간 오류다. 원흉을 벌하자. 나중에 비슷한 문제가 발생하면 또 다른 사람을 탓한다. 90% 넘는 산업 사고가 인간 오류 탓으로 돌려진다. 5%였다면 믿을지도 모르겠다. 그런데 사실상 모두 그렇다고 하면 무언가 다른 원인이 있음을 깨달아야 하지 않을까?

뉴욕 여객선 사고 발생에는 다양한 문제가 기여했다. 하지만 가장 중대한 요인 중 하나는 잘 알려져 있고 예방할 수 있는 상태인 “모드 오류”를 야기하는 형편 없는 조작 설계였다. 여기에 NTSB가 확인한 여객선 관리자들의 적절한 절차 부족, 특히 안전 관리 시스템 부족이 겹쳐 사고는 거의 일어난다고 보장된 것이나 마찬가지였다. (실제로 몇 년 전에 비슷한 사고가 일어났었다.)

여객선 선장은 조작이 배를 정박하기에 적합한 일반 모드로 되어 있다고 여겼다. 그런데 앞서 예상치 못한 진동에 대응하려고 다른 모드를 설정해야 했었다. 선장은 앞서 다른 모드로 설정했던 것을 기억하지 못한 잘못이 있었다. 하지만 모드를 잘못 기억하고 잘못 해석하는 것은 흔한 실패 원인이다.

이런 오류가 컴퓨터 시스템으로 일어나는 수많은 문제들과 에어버스 추락으로 이어졌다. 이런 오류는 거대한 유람선 로열 마제스티 호가 GPS 신호를 이용하지 않는 “추측 항법” 모드로 항해하면서 매사추세츠 주 케이프 코드에 좌초한 사고로 이어졌다. 이 사건들 모두 사용된 장치가 고도로 숙련된 승무원들 중 누구도 알아채지 못할 만큼 미묘한 방식으로 현재 모드를 표시했었다.

모드 오류가 너무 일반적인 나머지 인간 요인 가이드라인들은 모드 자체를 사용하지 말 것을 권장한다. 많은 경우 모드는 불필요하고 인간 중심 디자인으로 제거할 수 있다. 모드가 필요한 경우 모드 상태를 확실하고 분명하게 표시하는 것은 어렵지 않다. 그런 신호가 필요함을 깨닫는 게 어려운 부분인 것 같다.

이는 논리적 기능을 당연히 여기는 공학자들이 여러 사람과 함께, 지속적으로 방해를 받으며, 예상치 못한 상황에 대응하면서 조작해야 하는 행위의 복잡성을 고려하지 않고 설계할 때 흔히 나오는 결과다. 인간 중심 디자인 분야에는 딱 그런 상황에 있는 사람들에게 중대한 정보를 드러내기 위한 절차가 여럿 있다. 하지만 안전이 중대한 시스템의 설계에서는 그런 실천이 받아 들여지는 경우가 드물다. 업계가 따로따로 그 가치를 힘들게 배워야만 하는 것 같다. 형편 없는 설계 때문에 얼마나 더 오래 사람들을 다치고 죽게 만들어야 할까?

인간중심적 기술로

심각한 사고가 있을 때 흔히 처음 나오는 반응은 “인간 오류”다. 그런 주장이 문제가 계속되는 이유다. 우리는 근본적인 원인을 고치지 않는다. 가장 흔한 원흉이 장치와 절차의 나쁜 설계라는 점을 깨닫기 전까지는 문제를 고치지 못한다. 인간의 오류가 사고를 일으키는가? 그렇다. 하지만 오류에 이르는 원인을 알아야 한다. 대다수의 경우 인간 오류는 장치와 절차의 부적절한 설계에서 온다.

혁명을 시작할 때다. 인간 중심적으로 기술에 접근해야 함을 강력히 주장해야 할 때다. 이건 새로운 요구가 아니다. 미국 학술연구원의 인간시스템통합위원회와 세계 인간공학계는 수십 년 동안 이 문제를 연구하고 보고서들을 발간해 왔다. 일부 산업에서는 실제로 사람이 행동하는 방식에 맞춰 설계해야 할 필요성을 이해하고 있다. 상업 항공과 메이저 소프트웨어 회사들, 군이 그렇다. 의약계는 막 간신히 이해하며 관습을 바꾸기 시작하고 있다.

공학자와 기술자를 교육할 때 인간 중심 접근법을 가르쳐야 한다. 사람을 그만 탓하고 사람이 사용하는 것의 설계를 탓해야 한다. 현실, 우리가 사용하는 장치와 절차에 있는 근본적인 문제를 인지하고 고쳐야 한다.

* 필자 돈 노먼은 닐슨 노먼 그룹의 공동창립자, 교수(하버드, UC, 샌디에고, 노스웨스턴, 카이스트, 통지), 기업 임원(전 애플 부사장, 전 HP 이사, 현재 스타트업 공동창업자), 이사회 및 자문, 베스트셀러(Emotional Design, Living with Complexity, Design of Everyday Things) 저자 등 여러가지 역할을 하고 있다.

핵 발전소와 항공안전, 컴퓨터, 자동차 산업의 인간 오류에 대해 풍부한 연구와 자문 경험이 있다. Design of Everyday Things 개정판 54쪽 5장에서 오류를 크게 다루었다. jnd.org에서 노먼에 대해 더 자세히 알아볼 수 있다.