제0부 개관·역사·연구 준비

0.8 역사 V: 학습 기반 로봇 — 행동 기반·확률 로보틱스에서 딥러닝·파운데이션 모델까지

0.8.1 이 장에서 배우는 것 / 선수 지식 / 특히 중요한 독자

이 장은 로봇의 감지·판단·행동을 연결하는 방식이 설계자가 작성한 모델·규칙에서 확률적 추정, 그리고 데이터로 학습한 정책으로 이동해 온 과정을 다룬다. 다룰 질문은 세 가지다. 어떤 문헌이 각 접근의 출발점인가, 접근마다 무엇을 주장했고 무엇이 확인되었는가, 최근의 대규모 모델은 어떤 규모의 모델·데이터에 근거하는가. 학습 이론은 제17부(17.1~17.25), 로봇 데이터는 제18부(18.1~18.17), VLA는 제19부(19.1~19.46), 학습 기반 보행·조작은 제22부에서 다룬다. 이 장은 역사와 1차 문헌의 서술 범위에 한정한다.

배우는 것:

• 행동 기반 구조 — Brooks의 층 구조와 "표현 없는 지능" 주장(1985~1991).
• 확률 로보틱스 — 불확실성을 분포로 표현한 확률 지도와 SLAM 문제의 기원(1986~1990).
• 신경망 주행 — ALVINN(1989)의 구조·훈련·성능.
• 딥러닝 시각운동 정책과 시뮬레이션 전이 — Levine, Tobin, OpenAI의 2015~2018년 연구.
• 로봇 파운데이션 모델 — RT-1·RT-2·Open X-Embodiment·OpenVLA·π0의 규모(2022~2024).
• 풀이 예제 — 로봇 정책 모델의 매개변수 규모와 증가율.

선수 지식: 0.6.5(Brooks 1985 초록)와 0.6.6.2(Stanley의 기계학습·확률적 추론), 1.19(확률과 베이즈 정리), 신경망의 기본 구조.

특히 중요한 독자: 연구자(구조 논쟁의 원문과 규모 주장의 출처), 엔지니어(접근별 구조 비교), 정책·사업 독자(대규모 모델 주장을 읽을 때 확인할 항목).

기준 시점과 출처 방침. 이 장의 서술은 2026년 11월 기준이다. 앞 장들에 이어 원문을 먼저 읽었다. 전문을 읽은 자료는 ① Brooks, 「Elephants Don't Play Chess」(Robotics and Autonomous Systems 6, 1990, 3~15), ② Brooks, 「Intelligence without representation」(Artificial Intelligence 47, 1991, 139~159; 1987년 9월 접수), ③ Durrant-Whyte·Bailey, 「Simultaneous Localization and Mapping: Part I」(IEEE Robotics & Automation Magazine 13(2), 2006, 99~110), ④ Pomerleau, 「ALVINN: An Autonomous Land Vehicle in a Neural Network」(Advances in Neural Information Processing Systems 1, 305~313)이다. 초록과 서론 위주로 읽은 자료는 Brooks AIM-864(1985-09, 0.6에서 초록 쪽), Smith·Self·Cheeseman(arXiv:1304.3111), Levine 외(JMLR 17, 2016; arXiv:1504.00702), Levine 외(arXiv:1603.02199), Tobin 외(arXiv:1703.06907), OpenAI 외(arXiv:1808.00177), RT-1(arXiv:2212.06817), RT-2(arXiv:2307.15818), Open X-Embodiment(arXiv:2310.08864), OpenVLA(arXiv:2406.09246), π0(arXiv:2410.24164)이다. 실험의 세부 결과는 읽지 않았다.

출처의 성격은 당시 논문(ALVINN, Brooks, Smith 외), 개념 제안자의 회고·튜토리얼(Durrant-Whyte·Bailey), 연구팀의 자기 보고(2015년 이후의 논문 — 성능 주장은 (공개 주장치)이며 이 장은 재현을 확인하지 않았다)로 구분한다. 2015년 이후의 논문이 다루는 방법은 재현·검증 전의 연구 동향이다.

0.8.2 네 시기와 연표

시기 구분은 이 책의 서술 틀이며 원문으로 확인한 문헌을 기준으로 했다. 2006~2015년의 딥러닝 일반(합성곱 신경망, 강화학습의 발전)과 2025~2026년의 사례는 이 장이 원문을 읽지 못해 연표에서 제외했다. 2022~2026년의 전환점은 36.28가 다룬다.

0.8.3 행동 기반 구조 — Brooks(1985~1991)

0.8.3.1 네 가지 구조의 비교

네 접근의 차이는 감지에서 행동으로 이르는 경로의 구성으로 요약된다. 순차 구조(0.6의 Shakey)는 감지 결과로 세계 모델을 갱신하고 계획한 뒤 행동한다. 행동 기반 구조는 독립·병렬 활동 생성기가 감지·행동으로 세계와 직접 연결되고(Brooks 1991 초록), 상위 층이 하위 층의 출력을 억제한다(Brooks 1985 초록). 확률 로보틱스는 감지와 계획 사이에 분포를 다루는 추정 단계를 둔다. end-to-end 학습은 영상·언어에서 행동까지를 하나의 신경망으로 학습한다.

0.8.3.2 세 문헌의 서술

1991년 논문은 서론에서 두 가지를 명시한다. 하나는 방법의 원칙으로, 지능 체계의 능력을 점진적으로 쌓아 올리되 매 단계에서 실제 감지와 실제 행동을 가진 완전한 체계를 만들어 실제 세계에 투입한다는 것이다. 다른 하나는 이동 로봇 시리즈를 만들면서 도달한 "예상하지 못한 결론(C)"과 "다소 급진적인 가설(H)"이다. (C)는 매우 단순한 수준의 지능을 살피면 세계의 명시적 표현과 모델이 오히려 방해가 되며 세계 자체를 모델로 사용하는 편이 낫다는 것이다. (H)는 지능 체계의 가장 큰 부분을 구축할 때 표현이 잘못된 추상화 단위라는 것이다. 근거로 저자는 인간 수준의 지능은 너무 복잡하고 덜 이해되어 지금 올바른 부분 요소로 분해할 수 없으며, 부분 요소를 알더라도 그 사이의 올바른 인터페이스를 알지 못한다고 든다. (C)와 (H)는 저자의 주장이며 이 장은 그 근거가 된 실험의 세부를 읽지 않았다.

1990년 논문의 그림 1은 MIT의 이동 로봇으로 Allen, Herbert, Seymour, Toto, Tito, Tom, Jerry, Genghis, Squirt, Labnav를 열거한다. 이 장은 개별 로봇의 성능 수치를 확인하지 못했다. 이 접근과 상용 제품의 연결은 iRobot S-1이 행동 기반 로봇을 "새로운 세대의 로봇"이라 서술하고 Brooks를 최고 기술 책임자로 기재한 데서 확인된다(0.6.7.1). 층 구조의 소프트웨어 설계는 15.1에서 다룬다.

0.8.4 확률 로보틱스 — 불확실성의 표현과 SLAM의 기원

Smith·Self·Cheeseman의 논문은 공간 정보의 표현인 확률 지도(stochastic map)와 이를 구축·조회·점증 갱신하는 절차를 서술한다. 지도는 대상 간 관계의 추정값과 불확실성을 담으며, 추정은 이전의 매우 보수적인 최악 경우 접근과 달리 확률적이고 상태 추정·필터링 이론의 맥락에서 전개된다(초록). 이 논문은 1990년 단행본 『Autonomous Robot Vehicles』(Springer, 167~193쪽)에도 실렸다(Durrant-Whyte·Bailey의 참고문헌).

Durrant-Whyte·Bailey(2006)의 튜토리얼은 SLAM의 역사를 다음과 같이 서술한다. 확률적 SLAM 문제의 기원은 1986년 샌프란시스코의 IEEE 로보틱스·자동화 학회이며, 당시에는 확률적 방법이 로보틱스와 인공지능에 막 도입되던 때였다. Smith·Cheeseman과 Durrant-Whyte의 연구(IJRR 5(4), 1987; IEEE T-RA 4(1), 1988)가 기하학적 불확실성의 통계적 기반을 세웠고, 서로 다른 지표의 위치추정 사이에 높은 상관이 있으며 관측이 쌓일수록 상관이 커진다는 점이 핵심이었다. 이로부터 일관된 완전한 해는 차량 자세와 모든 지표 위치를 하나의 결합 상태로 두고 관측마다 갱신해야 하며, 상태 벡터의 크기는 지표 수에 비례하고 계산량은 지표 수의 제곱으로 증가한다는 결론이 나왔다.

확률적 접근과 학습의 결합은 0.6의 Stanley(2005)에서 확인된다. 논문은 소프트웨어가 "기계학습과 확률적 추론"에 주로 의존한다고 요약한다. 확률 로보틱스의 교과서(Thrun·Burgard·Fox, MIT Press, 2005)는 이 장이 본문을 읽지 않았다. 확률적 운동·측정 모델은 9.2, 칼만 필터는 9.3·9.4, SLAM은 제9부(9.31 등)에서 다룬다.

0.8.5 신경망 주행 — ALVINN(1988~1989)

Pomerleau의 논문은 ALVINN(Autonomous Land Vehicle In a Neural Network)을 도로 추종을 위한 3층 역전파 신경망으로 소개한다. 입력은 카메라 영상과 레이저 거리 측정기이며 출력은 차량이 가야 할 방향이다. 훈련은 시뮬레이션한 도로 영상으로 하며, Carnegie Mellon의 자율주행 시험 차량(NAVLAB)에서 실제 도로를 따라가는 시험에 성공했다고 서술한다. 논문은 Advances in Neural Information Processing Systems 1에 실렸으며 서지 기록은 NIPS 1988(개최)과 1989년(간행)으로 갈린다.

논문은 훈련 조건에 따라 신경망이 만드는 내부 표현이 크게 달라진다고 서술하며, 폭이 고정된 도로로 훈련하면 중첩된 도로 필터를 형성한다고 설명한다. 실제 도로 영상의 수집이 번거로워 시뮬레이터를 사용한 점이 이 논문의 설계 선택이다. 주행 성능은 "시험한 제한된 조건에서" 기존 최고 알고리즘과 비슷하다는 서술이다. 속도 0.5 m/s는 0.6의 Stanford Cart(1.1~1.7 mm/s)와 Stanley(평균 8.5 m/s) 사이의 값이다. 영상 기반 도로 주행 모델은 30.8에서 end-to-end 주행으로 이어진다.

0.8.6 딥러닝 시각운동 정책과 시뮬레이션 전이(2015~2018)

아래의 연구는 모두 이 장이 초록·서론을 읽은 범위이며 성능 수치는 연구팀의 보고이다.

두 방향이 병존한다. 하나는 실제 로봇으로 대규모 데이터를 수집하는 방식(Levine의 80만 회 파지)이고, 다른 하나는 시뮬레이션과 랜덤화로 실제 데이터 없이 전이하는 방식(Tobin, OpenAI)이다. 강화학습은 17.2·17.3, 모방학습은 17.8, 시뮬레이션 전이는 제16부(16.1~16.24)와 22.1에서 다룬다.

0.8.7 로봇 파운데이션 모델(2022~2024)

이 표의 값은 각 논문이 보고한 규모이며, 평가 과제·환경·성공 기준이 서로 달라 모델 간 직접 비교 대상이 아니다. 비교 주장(OpenVLA 대 RT-2-X)은 저자의 평가이다. VLA 계보는 19.8(구글 계열)·19.14(오픈 학술 계열), 데이터셋은 18.11, 스케일링 증거와 반론은 20.34·20.35에서 다룬다.

0.8.8 풀이 예제 — 로봇 정책 모델의 매개변수 규모

결론. ALVINN(1989)의 매개변수 36,702개에서 RT-1(2022)의 35M으로 약 950배, RT-2(2023, 최대)의 55B로 약 150만 배가 되었다. 두 점을 지수 추세로 이을 때의 배가 시간은 1.7~3.3년이다. 이 값은 선택한 다섯 시스템의 비교이며 법칙이 아니다.

ALVINN의 매개변수 수는 논문의 구조(1,217-29-46 완전 연결)에서 계산한다. 가정은 다음과 같다.

import math

def mlp_params(layers):
    """완전 연결 층 구조의 가중치와 편향의 수"""
    w = sum(a * b for a, b in zip(layers, layers[1:]))
    return w, sum(layers[1:])

ALVINN = [1217, 29, 46]            # 입력 960+256+1, 은닉 29, 출력 46
w, b = mlp_params(ALVINN)
alvinn = w + b
systems = [                         # (이름, 연도, 매개변수 수)
    ('ALVINN', 1989, alvinn),
    ('Levine 외', 2016, 92_000),
    ('RT-1', 2022, 35e6),
    ('RT-2(최대)', 2023, 55e9),
    ('OpenVLA', 2024, 7e9),
]

def doubling_years(y0, p0, y1, p1):
    """두 점을 지수 추세로 이을 때의 배가 시간 [년]"""
    return (y1 - y0) / math.log2(p1 / p0)

계산 결과는 다음과 같다.

한계. 선택한 다섯 점은 이 장이 원문을 읽은 시스템이며 대표 표본이 아니다. 매개변수 수는 모델이 달성한 능력과 같지 않다. 구조·입력·과제·평가가 모두 다르며, RT-2의 55B는 비전-언어 모델 전체의 규모로서 로봇 정책에 전용된 매개변수가 아니다. 데이터의 규모는 단위가 서로 달라(시뮬레이션 장면, 파지 시도, 에피소드, 시간) 같은 방식으로 비교하지 않았다. 2016년 Levine 외의 모델(92,000개)은 배가 시간이 20.4년으로 계산되어 지수 추세가 일정하지 않음을 보여 준다.

견해: 이 계산에서 읽을 수 있는 것은 2022년 이후 로봇 정책에 사용하는 모델의 규모가 비전-언어 모델과 같은 범위로 올라갔다는 점이다. 그러나 OpenVLA가 7B로 55B의 RT-2-X보다 높은 성공률을 보고한 점(저자 주장)은 규모의 증가가 곧 능력의 증가라는 해석을 뒷받침하지 않는다. 규모와 능력의 관계는 20.34(증거)과 20.35(반론)가 문헌별로 다룬다.

0.8.9 쟁점 — 지능을 어떤 구조로 구현하는가

자료에서 확인되는 입장은 네 가지다.

• ① 모델·계획 중심의 순차 구조. 감지로 세계 모델을 갱신하고 계획한다(Shakey, 0.6). 모델의 표현과 계획 시간이 설계의 핵심 제약이다.
• ② 표현을 최소화한 행동 기반 구조. Brooks는 인공지능이 표현의 문제에서 좌초했다고 주장하며 층마다 감지-행동 경로를 둔다. 성과는 저자의 보고이다.
• ③ 확률적 표현. 불확실성을 분포로 표현하고 필터로 갱신한다(Smith 외, SLAM). 2006년 시점의 저자 평가는 이론 수준에서 해결되었으나 실제 구현의 문제가 남는다는 것이다.
• ④ 데이터에서 학습한 정책. 영상에서 행동까지(ALVINN, Levine)와 대규모 사전학습 모델(RT-2, OpenVLA, π0)이 있다. 규모와 성공률은 저자 보고이며 재현 전이다.

견해: 이 책은 네 입장을 경쟁하여 하나가 승리한 계보가 아니라 설계 변수로 다룬다. 근거는 0.6의 사례에서 한 체계 안에 확률적 추정, 학습, 계획이 함께 쓰였다는 점이다(Stanley). 순수한 end-to-end 정책이 모든 구성 요소를 대체했다는 서술은 이 장이 읽은 범위에서 확인되지 않는다. 구조의 역할을 둘러싼 논쟁(Bitter Lesson, Brooks의 반론)은 20.35가 다룬다.

0.8.10 사료의 한계와 유의점

읽지 못한 자료는 다음과 같다. Brooks AIM-864의 본문, Smith·Self·Cheeseman의 본문 전개, Thrun·Burgard·Fox(2005), 2015~2022년 딥러닝 일반, RT-1·RT-2 논문의 평가 세부, OpenAI 논문의 성공률, 2025~2026년의 모델(36.28). 이 항목들은 서술하지 않았거나 (확인 필요)로 표시했다.

0.8.11 관련 규격·프로토콜과 후속 장

이 장이 다룬 학습 기반 방법에 대한 규격·규제는 0.9·0.15와 제21부(21.1~21.24)에서 다룬다.

0.8.12 체크포인트·연구 질문

체크포인트:

1. 네 가지 제어 구조(순차·행동 기반·확률적·end-to-end)를 감지에서 행동까지의 경로로 구분할 수 있는가.
2. Brooks의 1985·1990·1991년 문헌 각각이 무엇을 보고하며 어디까지가 시뮬레이션·자기 보고인지 구분할 수 있는가.
3. Durrant-Whyte·Bailey가 서술한 SLAM의 기원과 결합 상태의 계산량(지표 수의 제곱)을 설명할 수 있는가.
4. ALVINN의 구조(1,217-29-46), 훈련 데이터(시뮬레이션 1,200장), 실차 성능(0.5 m/s, 400 m)을 제시할 수 있는가.
5. Levine·Tobin·OpenAI의 두 방향(실제 대규모 수집, 시뮬레이션 랜덤화)을 설명할 수 있는가.
6. RT-1·RT-2·Open X-Embodiment·OpenVLA·π0의 규모를 각 논문의 단위로 제시하고 비교 불가능성을 설명할 수 있는가.
7. 매개변수 규모의 배가 시간 계산의 가정과 한계를 설명할 수 있는가.

연구 질문(47.12에 수록한다):

• Brooks AIM-864와 1986년 학술지판의 본문에서 층의 정의와 시뮬레이션의 범위는 무엇인가.
• 1990~1991년의 행동 기반 로봇들(Allen, Genghis 등)의 성능은 어떤 수치로 보고되었는가.
• 1986년 학회 이전의 확률적 지도 연구(Smith·Cheeseman)는 어떤 선행 문헌에 근거하는가.
• 로봇 정책에서 매개변수 규모, 데이터 규모, 과제 성공률의 관계는 어떤 문헌에서 정량적으로 측정되었는가.
• OpenVLA와 RT-2-X의 비교는 독립적인 평가에서 재현되는가.

1차 출처

• Brooks, R. A., 「A Robust Layered Control System for a Mobile Robot」, MIT AI Memo 864, 1985-09(초록 쪽 확인); 학술지판 IEEE J. Robotics and Automation RA-2(1), 1986, 14~23(서지만 확인).
• Brooks, R. A., 「Elephants Don't Play Chess」, Robotics and Autonomous Systems 6, 1990, 3~15.
• Brooks, R. A., 「Intelligence without representation」, Artificial Intelligence 47, 1991, 139~159.
• Smith, R., Self, M., Cheeseman, P., 「Estimating Uncertain Spatial Relationships in Robotics」, arXiv:1304.3111(초록·서두 확인); 『Autonomous Robot Vehicles』, Springer, 1990, 167~193(서지만 확인).
• Durrant-Whyte, H., Bailey, T., 「Simultaneous Localization and Mapping: Part I」, IEEE Robotics & Automation Magazine 13(2), 2006, 99~110.
• Pomerleau, D. A., 「ALVINN: An Autonomous Land Vehicle in a Neural Network」, Advances in Neural Information Processing Systems 1, 305~313.
• Levine, S. 외, 「End-to-End Training of Deep Visuomotor Policies」, J. Machine Learning Research 17, 2016, 1~40.
• Levine, S. 외, 「Learning Hand-Eye Coordination for Robotic Grasping with Deep Learning and Large-Scale Data Collection」, arXiv:1603.02199.
• Tobin, J. 외, 「Domain Randomization for Transferring Deep Neural Networks from Simulation to the Real World」, arXiv:1703.06907.
• OpenAI 외, 「Learning Dexterous In-Hand Manipulation」, arXiv:1808.00177.
• Brohan, A. 외, 「RT-1: Robotics Transformer for Real-World Control at Scale」, arXiv:2212.06817.
• Brohan, A. 외, 「RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control」, arXiv:2307.15818.
• Open X-Embodiment Collaboration, 「Open X-Embodiment: Robotic Learning Datasets and RT-X Models」, arXiv:2310.08864.
• Kim, M. J. 외, 「OpenVLA: An Open-Source Vision-Language-Action Model」, arXiv:2406.09246.
• Black, K. 외, 「π0: A Vision-Language-Action Flow Model for General Robot Control」, arXiv:2410.24164.
• 서지만 확인하고 본문은 읽지 않은 것: Thrun, S., Burgard, W., Fox, D., 『Probabilistic Robotics』, MIT Press, 2005; Smith, R., Cheeseman, P., IJRR 5(4), 1987; Durrant-Whyte, H., IEEE T-RA 4(1), 1988 (확인 필요).

다음 장. 0.9는 로봇의 안전·규제·윤리의 역사를 다룬다. 이 장에서 다룬 접근이 로봇의 동작을 설계자의 규칙에서 학습한 정책으로 옮김에 따라, 안전 요구가 어디서 정해지고 누가 책임을 지는가라는 질문이 규격과 법령의 역사에서 어떻게 전개되었는가를 서술한다.