제0부 개관·역사·연구 준비

0.9 역사 VI: 로봇 안전·규제·윤리의 역사 — 아시모프에서 ISO 10218·EU 인공지능법까지

0.9.1 이 장에서 배우는 것 / 선수 지식 / 특히 중요한 독자

이 장은 로봇의 안전을 둘러싼 규범이 허구의 원칙에서 사고와 실태의 기록, 사업자 지침, 합의 표준, 법령, 그리고 인공지능 규제로 이어진 과정을 다룬다. 다룰 질문은 세 가지다. 초기의 안전 인식은 어떤 기록에 근거하는가, 표준과 법령은 어떤 순서로 형성되었는가, 최근의 인공지능 규제는 기존 기계 안전 체계와 어떻게 연결되는가. 조문의 구조와 유형별 적용 법령은 0.15와 제38~40부, 인증 실무는 제41부, 안전 설계 기법은 제26부에서 다룬다. 이 장은 역사와 1차 문헌의 서술 범위에 한정한다.

배우는 것:

• 허구의 원칙과 공학 규범 — 로봇 3원칙의 출처와 지위, 영국 공학·물리과학 연구위원회(EPSRC) 원칙(2011).
• 초기의 사고와 실태 — 1978~83년 일본의 통계, 영국 업계 보고서의 사건 유형, 보도된 사망 사고.
• 사업자 지침에서 표준으로 — GM의 방호책 일람(1983)과 ANSI/RIA R15.06, ISO 10218의 개정.
• 지역 규제 — 일본 노동성의 규정 초안(1983), EU 기계류 지침·규정, 미국의 일반 표준 체계.
• 인공지능 규제 — EU 인공지능법의 적용 시점과 기계류 규정과의 관계.
• 풀이 예제 — 접촉 힘 한계에서 허용 상대 속도를 구하는 단순 스프링 모형.

선수 지식: 0.1.4.1(정지에 필요한 감지 거리), 0.3.3.2(산업 로봇의 정의), 0.5.2(산업 로봇 확산의 시기), 강체의 충돌과 에너지 보존.

특히 중요한 독자: 법무·인증·안전 독자(규범의 층위와 기원), 정책 독자(규제 형성 순서), 연구자(2차 서술과 1차 문헌의 구분), 엔지니어(접촉 힘 모형의 가정).

기준 시점과 출처 방침. 이 장의 서술은 2026년 11월 기준이다. 앞 장들에 이어 원문을 먼저 읽었다. 직접 읽은 자료는 다음과 같다. ① 미국 의회 기술평가국(OTA) 『Computerized Manufacturing Automation』(OTA-CIT-235, 1984)의 제5장 안전·보건 절(196~198쪽)과 표 50(쪽 영상으로 열 정렬을 확인). ② 유럽연합 집행위원회의 인공지능법 안내 페이지(2026-10-19 갱신). ③ EN ISO 10218-1:2025의 CEN 표지 샘플(7쪽). 요약 도구를 거쳐 확인한 자료는 OSHA Technical Manual 제IV절 제4장(「Industrial Robots and Robot System Safety」)과 위키백과의 ISO 10218 항목이다. 보도·검색 요약에서만 확인한 것은 아시모프의 「Runaround」 서지, Williams와 Urada의 사망 사고, EPSRC 원칙, EU 기계류 규정(2023/1230)의 일자이며 모두 2차로 표시한다. EUR-Lex와 ISO 사이트는 접근하지 못했다.

출처의 성격은 정부 보고서(OTA, 당시 기록), 표준 기관 문서(CEN 표지), 정부 안내 페이지(집행위원회), 2차 서술(보도·백과)로 구분한다. 법령·표준의 조문 본문은 이 장이 읽지 않았다.

0.9.2 네 시기와 연표

시기 구분은 이 책의 서술 틀이며 근거를 확인한 사건을 기준으로 했다. 1980년대 후반~2000년대(ANSI/RIA R15.06의 최초판, ISO 10218의 1992·2006년판, 일본·한국의 법령 개정)는 이 장이 원문을 읽지 못해 연표의 칸을 비워 두었다.

0.9.3 허구의 원칙과 공학 규범

로봇 3원칙은 소설에서 출발한다. 2차 서술에 따르면 아시모프의 「Runaround」가 1942년 3월호 『Astounding Science Fiction』에 실렸고 3원칙이 하나의 목록으로 명시된 첫 작품으로 소개된다. 앞선 작품에는 원칙의 일부만 나타난다는 서술도 있다. 이 장은 원문과 서지 데이터베이스를 확인하지 못했다 (확인 필요). 3원칙의 내용(사람에 대한 위해 금지, 명령 복종, 자기 보존의 위계)은 모순과 충돌을 낳는 구조로 서사에 사용된 것이며 공학 규범이 아니다.

공학 문서에서 이 원칙이 어떻게 다루어지는지는 OTA(1984)가 한 예를 준다. 이 보고서는 472쪽 전문에서 아시모프도 3원칙도 언급하지 않는다(전문 검색으로 확인). 대신 사고의 유형, 방호책, 보고된 통계와 규정 초안을 서술한다. 안전 규범이 서사의 원칙이 아니라 위험원 식별과 방호 조치의 목록으로 구성되었다는 점이 이 장의 출발점이다.

윤리 원칙은 이후 공학 측에서 별도로 작성되었다. 2차 서술에 따르면 EPSRC와 인문학·예술 연구위원회(AHRC)가 2011년에 설계자·제작자·사용자를 위한 다섯 가지 원칙을 공표했으며, 책임을 지는 주체는 로봇이 아니라 사람이라는 취지를 담는다. 저자들은 이 원칙을 법적 규범이 아니라 논의를 돕는 문서로 설명하고, 2017년 『Connection Science』 논문이 정식으로 게재했다고 한다. 이 장은 원칙의 정확한 문구를 확인하지 못했다 (확인 필요). 책임·법적 지위·로봇 윤리의 쟁점은 제40부에서, 3원칙의 현대적 재해석(로봇 헌법)과 ASIMOV 벤치마크는 21.1에서 다룬다.

0.9.4 초기의 사고와 실태

0.9.4.1 OTA(1984)가 기록한 통계와 사건 유형

OTA는 안전·보건을 "프로그래머블 자동화의 긍정적·부정적 효과" 안에서 서술한다. 위험하고 불쾌한 작업을 로봇이 맡으면 작업자에게 순효과가 있을 수 있으나, 로봇과 사람의 예상하지 못한 접촉을 피하려면 예방 조치가 필요하다고 서술한다. 당시의 통계는 다음과 같다.

OTA는 이 증거를 통해 로봇 안전의 논의를 이미 "미국·서유럽·일본의 단체가 안전한 사용 지침을 제공하는" 단계로 요약한다. 다만 위 통계는 일본 노동성의 조사를 인용한 것이며 이 장은 원 보고서를 읽지 못했다.

0.9.4.2 보도된 사망 사고(2차)

보도·백과 서술은 1979-01-25 Ford의 Flat Rock 주조 공장에서 Robert Williams가 로봇에 의해 사망했고, 제조사 Litton Industries에 책임을 물은 평결이 나왔으며 배상액이 1984년 1월에 1,500만 달러로 늘었다고 적는다. 일본에서는 1981년 Kawasaki Heavy Industries의 Akashi 공장에서 보수 작업자 Kenji Urada가 사망했고, 사고 경위의 서술(방호 구역을 넘어 들어간 뒤 로봇이 작동해 인근 기계에 눌렸다는 서술과 로봇 팔에 찔린 뒤 눌렸다는 서술)이 출처마다 다르다. 이 사례들은 모두 2차이며 원 기록(법원 기록·노동기준 당국의 조사)을 확인하지 못했다 (확인 필요). 두 사건은 OTA의 일본 통계와 달리 개별 사건이라 통계 해석의 근거로 사용하지 않는다.

0.9.5 사업자 지침에서 합의 표준으로

OTA의 표 50은 GM의 『Operations Safety and Health Manual』(제28절, 1983-01)이 제시한 방호책을 작업 구분별로 나타낸다. 이 장은 쪽 영상으로 열 정렬을 확인했다. 열은 무단 침입, 승인된 작업(교시, 보수, 인접 작업)이다.

작업 모드마다 요구되는 방호책이 다르다는 점이 이 표의 핵심이다. 교시·보수 때는 로봇을 비활성화하거나 저속·저출력으로 제한하고, 무단 침입에는 방호벽과 검출기, 인접 작업에는 한계 장치와 검출기를 결합한다. 이 구조는 이후 표준의 모드별 요구(교시 모드의 속도 제한, 방호 구역 감시)의 원형으로 읽을 수 있다. 다만 이 연결은 이 장의 해석이며 표준 본문과의 대응을 확인하지 않았다 (확인 필요).

합의 표준의 형성은 다음과 같이 정리된다.

이 장이 확인한 사례를 사고와 실태에서 인공지능 규제까지의 경로로 나타내면 다음과 같다.

OSHA의 매뉴얼은 로봇 전용 표준을 서술하지 않고 일반 표준(29 CFR 1910의 D·G·I·J·O·S 하위 부)을 "현재 산업 로봇 응용에 관련될 가능성이 가장 높은 것"으로 나열하며 다른 표준도 적용될 수 있다고 적는다. 즉 미국에서는 합의 표준(R15.06)이 일반 법령과 병존한다. 이 서술은 요약 도구를 거친 것이다.

0.9.6 지역 규제 — 일본·EU·미국

일본의 규정은 OTA가 서술한 1983년의 노동성 초안이 가장 이른 확인이다. 실제 개정(노동안전위생규칙)의 시점과 내용은 이 장이 확인하지 못했다 (확인 필요). 한국의 규정은 제39부에서 다룬다.

EU에서는 CEN 표지가 확인하듯 조화 표준(EN ISO 10218-1)이 지침 2006/42/EC의 필수 요건과의 관계를 부속서 ZA에서 정한다. 이 지침을 대체하는 기계류 규정(EU) 2023/1230은 2차 서술에 따르면 2023-07-19 발효, 2027-01-20 적용 개시이며 지침은 그 시점에 폐지된다 (확인 필요: EUR-Lex 미접근). 집행위원회의 인공지능법 안내 페이지는 인공지능법과 기계류 규정의 상호작용을 "중복을 피하도록 명확히 했다"고 서술한다.

미국은 앞 절에서 보았듯 OSHA의 일반 표준과 합의 표준의 병존 구조이다.

0.9.7 인공지능 규제

집행위원회의 안내 페이지(2026-10-19 갱신)는 인공지능법의 적용 일정을 다음과 같이 서술한다.

AI 옴니버스는 2025-11-19에 제안되었고 2026-05-07에 정치적 합의에 이르렀으며 2026-07-27에 발효했다고 같은 페이지가 서술한다. 기계류에 내장된 로봇용 인공지능이 Annex I의 대상이 되는지는 법 본문의 목록으로 확인해야 하며 이 장은 읽지 않았다 (확인 필요). 페이지는 제품의 안전 부품으로 사용되는 인공지능이 고위험으로 분류될 수 있다고 서술하며 예로 수술 로봇을 든다. 로봇 유형별 적용 관계는 0.15와 제38부, 학습 기반 로봇의 안전·평가는 제21부(21.1~21.24)에서 다룬다. 이 장은 법 본문을 읽지 않았고 페이지의 요약 수준에서 서술한다 (확인 필요).

0.9.8 풀이 예제 — 접촉 힘 한계에서 허용 상대 속도

결론. 로봇이 사람의 신체 부위와 충돌할 때 허용되는 상대 속도는 신체 부위의 강성과 힘 한계로 정해지고, 로봇의 유효 질량이 커져도 어느 값에서 포화한다. 아래의 단순 모형에서 가정한 세 영역은 로봇 유효 질량 10 kg일 때 0.43~0.59 m/s이고 질량이 무한히 커지면 0.37~0.50 m/s에 수렴한다. 이 값은 설명용 가정에서 나온 것이며 어떤 표준의 값도 아니다.

두 질량(신체 부위 $m_H$, 로봇 유효 질량 $M$)이 상대 속도 $v$로 충돌하고, 접촉을 강성 $k$의 스프링으로 모형화한다. 환산 질량은 $\mu = (1/m_H + 1/M)^{-1}$이며, 최대 압축에서 운동에너지가 모두 스프링에 저장되므로 $\tfrac12 \mu v^2 = \tfrac12 k x^2$이다. 최대 접촉력 $F = kx$이므로

$$F = v\sqrt{k\mu} \qquad\Longrightarrow\qquad v_{\max} = \frac{F_{\lim}}{\sqrt{k\mu}}$$

이다. 협동 운용의 접촉 힘 한계를 정하는 규격(ISO/TS 15066)도 같은 형태의 식을 부속서에서 사용하는 것으로 알려져 있으나 이 장은 규격 본문을 읽지 않았다 (확인 필요). 가정은 다음과 같다.

import math
M_H = 4.0                  # 신체 부위 유효 질량 [kg] (가정)
REGIONS = {                # (강성 k [N/m], 힘 한계 [N]) (가정)
    'A': (1.0e4, 100.0),
    'B': (3.0e4, 150.0),
    'C': (7.5e4, 200.0),
}

def reduced_mass(m_robot, m_body=M_H):
    """두 질량의 환산 질량 mu [kg]"""
    return 1.0 / (1.0 / m_robot + 1.0 / m_body)

def v_max(region, m_robot):
    """접촉력이 힘 한계 이하인 상대 속도 [m/s]"""
    k, f_lim = REGIONS[region]
    return f_lim / math.sqrt(k * reduced_mass(m_robot))

계산 결과는 다음과 같다.

한계. 이 모형은 힘 기준 하나만 본다. 실제 평가는 접촉 압력, 접촉 시간, 신체 부위별 값, 끼임(준정적 접촉)과 순간 충돌의 구분을 함께 다룬다. 영역 A~C의 값은 가정이며 실제 사람의 부위별 한계가 아니다. 로봇의 유효 질량은 자세에 따라 달라지고 말단 속도와 충돌 방향에 의존한다. 감쇠와 옷·피부의 비선형성을 무시했다.

견해: 이 모형에서 읽을 수 있는 설계 함의는 로봇의 유효 질량이 신체 부위의 유효 질량보다 충분히 크면 질량을 더 줄여도 허용 속도의 이득이 작다는 점이다. 이 값은 환산 질량이 $m_H$로 포화하는 구조에서 나온다. 근거는 표의 질량 20 kg에서 50 kg으로의 변화에 따른 허용 속도 변화가 5% 안팎이라는 계산이다. 실제 제품의 설계에서 이 가정이 성립하는지는 규격의 값과 측정으로 확인해야 하며, 협동 운용의 요건은 28.4에서 다룬다.

0.9.9 쟁점 — 안전 규범을 어디에 두는가

자료에서 확인되는 접근은 네 가지다.

• ① 원칙·윤리 중심. 로봇 3원칙과 EPSRC 원칙은 책임의 귀속과 설계 지향을 서술한다. 3원칙은 서사의 장치이며, 이 장이 읽은 공학 문서(OTA)에는 나타나지 않는다.
• ② 방호 조치 중심. GM 1983의 표 50은 작업 모드별 방호책의 조합을 제시한다. 위험원을 막는 장치와 절차의 목록이다.
• ③ 합의 표준 중심. ANSI/RIA R15.06과 ISO 10218은 제조사와 통합자의 요구를 표준화한다. EU에서는 조화 표준이 법적 요건과 연결된다(CEN 표지의 부속서 ZA).
• ④ 법령·규제 중심. 일본 노동성의 규정 초안, EU의 기계류 지침·규정, 인공지능법이 있다. 미국은 합의 표준이 일반 법령과 병존한다.

견해: 이 책은 네 접근을 대안이 아니라 층위로 다룬다. 근거는 이 장이 확인한 사례에서 방호책(OTA 표 50)이 표준(ISO 10218)의 내용이 되고, 표준이 법령과 연결(부속서 ZA)되며, 인공지능법이 기계류 규정과의 중복을 피하도록 조정(집행위원회)되는 형태로 층이 서로 참조한다는 점이다. 원칙·윤리의 층은 이 참조 사슬에서 확인되지 않는다. 책임·윤리의 층은 제40부가 다룬다.

0.9.10 사료의 한계와 유의점

읽지 못한 자료는 다음과 같다. 아시모프의 원문과 서지 데이터베이스, Williams 사건의 법원 기록, 일본 노동성의 1983년 보고서, 영국 업계 협회의 1982년 보고서 원문, ANSI/RIA R15.06의 각 판, ISO 10218의 1992·2006·2011년판, ISO/TS 15066, EUR-Lex의 법령 본문(기계류 지침·규정, 인공지능법, 옴니버스), EPSRC 원칙의 원문. 이 항목들은 서술하지 않았거나 (확인 필요)로 표시했다.

0.9.11 관련 규격·프로토콜과 후속 장

이 장은 법령의 조문을 읽지 않았다. 규범의 층위별 후속 장은 다음과 같다.

0.9.12 체크포인트·연구 질문

체크포인트:

1. 로봇 3원칙의 출처와 지위를 설명하고, OTA(1984)가 3원칙을 다루지 않은 점을 근거로 공학 규범과 구분할 수 있는가.
2. OTA가 인용한 일본의 통계(1978~83, 사망 2·부상 9·위기 37)의 성격과 한계를 설명할 수 있는가.
3. 영국 업계 보고서가 든 새로운 주된 위험(작업 포락면)과 비정상 동작 사례를 제시할 수 있는가.
4. GM 방호책 표(교시·보수·인접 작업·무단 침입)를 읽고 작업 모드별 요구의 차이를 설명할 수 있는가.
5. ISO 10218의 2025년판 정보(제1부 제3판, CEN 승인 2025-01-03, 부속서 ZA)를 제시하고, 확인하지 못한 판(1992·2006)을 구분할 수 있는가.
6. EU 인공지능법의 적용 일정과 옴니버스에 따른 연장을 제시하고 기계류 규정과의 관계를 설명할 수 있는가.
7. 접촉 힘 모형의 식 $v_{\max} = F_{\lim}/\sqrt{k\mu}$를 유도하고 가정의 한계를 설명할 수 있는가.

연구 질문(47.12에 수록한다):

• 아시모프의 3원칙이 명시된 최초 문헌과 용례의 변천은 서지 데이터베이스에서 어떻게 확인되는가.
• 일본 노동성의 1983년 보고서와 이후의 규정 개정(노동안전위생규칙)은 어떤 내용과 시점인가.
• ANSI/RIA R15.06의 최초판과 ISO 10218의 1992·2006년판은 어떤 방호 요구를 정했는가.
• Williams(1979)·Urada(1981) 사건의 원 기록은 무엇이며 통계의 정의는 어떻게 달랐는가.
• EU 기계류 규정과 인공지능법의 상호작용은 로봇 제품의 적합성 입증에서 어떻게 정리되는가.

1차 출처

• U.S. Congress, Office of Technology Assessment, 『Computerized Manufacturing Automation: Employment, Education, and the Workplace』, OTA-CIT-235, 1984-04, 제5장 196~198쪽과 표 50.
• European Commission, 「AI Act」 안내 페이지(digital-strategy.ec.europa.eu, 2026-10-19 갱신).
• CEN, EN ISO 10218-1:2025 표지(SIST 샘플 7쪽).
• OSHA, OSHA Technical Manual, Section IV, Chapter 4, 「Industrial Robots and Robot System Safety」(요약 도구 경유).
• 서지만 확인하고 본문은 읽지 않은 것: ISO 10218-1:2025·ISO 10218-2:2025, ISO/TS 15066:2016, ANSI/RIA R15.06-2012, Regulation (EU) 2023/1230, Regulation (EU) 2024/1689, 지침 2006/42/EC, Asimov의 「Runaround」(Astounding Science Fiction, 1942-03), EPSRC 로봇 원칙(2011) (확인 필요).

다음 장. 0.10은 의료·재활 로봇의 역사를 다룬다. 이 장에서 다룬 안전 규범이 의료기기 체계와 만나는 지점, 곧 PUMA 560의 수술 보조 사용에서 ROBODOC과 da Vinci의 승인과 사용에 이르는 과정에서 위험 관리와 임상 증거가 요구되는 방식을 서술한다.