제2부 고전 제어: 해석과 설계

2.4 Nyquist 안정성과 안정도 여유

제2부 고전 제어: 해석과 설계 · 견고성. Bode(2.3)가 보여 준 교차주파수를 정량적 안정 여유로 만든다. Nyquist 판정으로 개루프가 불안정해도 폐루프 안정성을 판별하고, 이득 여유·위상 여유로 "얼마나 여유 있게 안정한가"를 잰다.

이 장을 마치면 −1 점과의 거리로 견고성을 이해하고, Bode·Nyquist에서 이득·위상 여유를 읽으며, 여유가 모델 오차·지연을 어떻게 막아 주는지 설명할 수 있어야 한다.

2.4.1 왜 Nyquist — Bode를 넘어서

2.1의 Routh는 "안정/불안정"을, 2.3의 Bode는 안정·최소위상 개루프의 여유를 쉽게 줬다. 하지만:

• 개루프가 불안정하거나(우반평면 극) 비최소위상이면 Bode만으로 폐루프 안정성을 단정하기 어렵다.
• "겨우 안정"과 "견고하게 안정"을 구분하려면 임계점 −1과의 거리라는 척도가 필요하다.

Nyquist 판정은 개루프 주파수응답 $L(j\omega)$가 복소평면에서 −1 점을 몇 번 감싸는가로 폐루프 안정성을 엄밀히 답한다. 왜 −1인가? 특성방정식이 1+L=0 ⇔ L=−1이기 때문이다(2.1.3). −1은 폐루프 극이 허수축에 닿는 바로 그 순간이다.

2.4.2 Nyquist 선도 — L(jω)의 극좌표 그림

Bode가 이득·위상을 두 그래프로 나눠 그렸다면, Nyquist는 $L(j\omega)$를 복소평면의 한 곡선으로 그린다. $\omega$를 −∞→∞로 훑으며 Re{L} vs Im{L}를 그린다($\omega<0$은 $\omega>0$의 켤레 대칭).

• 개루프 극이 원점에 있으면(적분기) $\omega\to0$에서 $\vert L\vert\to\infty$라 큰 반원이 붙는다 — 정확한 절차는 2.4.2.1.
• 핵심은 곡선이 −1 점을 어떻게 지나가느냐다.

2.4.2.1 허수축 극 우회 — 인덴테이션(indentation) 절차

$L(s)$가 원점이나 다른 허수축 위에 극을 가지면(가장 흔한 예: 순수 적분기 $1/s$ — PI·PID의 I항이 만드는 바로 그 극, 2.5.2.2), 그 점에서 $\vert L(j\omega)\vert\to\infty$라 경로가 그 점을 그대로 지날 수 없다. 표준 처방은 그 극을 반지름 $\varepsilon\to0$인 작은 반원으로 오른쪽(RHP 쪽)으로 비켜 가는 것 — 인덴테이션(indentation)이다.

그림: 원점에 극이 있을 때 $s$-평면 경로. $\omega$가 $0^-$(아래쪽)에서 0⁺(위쪽)로 넘어가는 구간을, 반지름 $\varepsilon$의 작은 반원으로 오른쪽(양의 σ 방향)으로 돌아간다. 이렇게 하면 원점(허수축 위, $\operatorname{Re}=0$)이 우회 반원의 오른쪽에 남아 — 즉 감싸는 영역("우반평면")에서 제외된다. 2.1.2.2가 허수축 극을 "경계(marginal)"로 따로 분류했던 것과 같은 원칙이다: $P$(개루프 우반평면 극 개수, 2.4.3)는 $\operatorname{Re}>0$인 극만 세고 $\operatorname{Re}=0$인 극은 세지 않는다.

이 우회가 $L$-평면에 남기는 자국: 원점에 $m$차 극이 있으면($L(s)\approx c/s^{m}$, s→0 근방), 우회 반원 위에서 $s=\varepsilon e^{j\theta}$($\theta: -90^\circ\to+90^\circ$)라 두면

$$ L(\varepsilon e^{j\theta}) \approx \frac{c}{\varepsilon^m}\,e^{-jm\theta} $$

이므로 $\varepsilon\to0$일 때 크기는 무한대로 발산하고, 위상은 $\theta$가 $-90^\circ$에서 $+90^\circ$로 움직이는 동안 $+90^\circ m$에서 $-90^\circ m$까지 시계방향으로 $m\cdot180^\circ$만큼 돈다. 즉 $\omega=0^-$과 $\omega=0^+$에서 그린 두 곡선의 끝을, 반지름이 무한대인 큰 호가 시계방향으로 $m$번의 반바퀴($=m\cdot180^\circ$)를 돌아 이어 준다.

• $m=1$(순수 적분기 하나 — 대부분의 PI·PID 루프, 2.5): 반원 하나($180^\circ$)로 충분히 이어진다. Bode·근궤적에서 흔히 보는 "적분기 있는 계"가 이 경우다.
• $m\ge2$(이중 적분 이상, Type-2 이상): 우회가 반원이 아니라 $m$배 큰 각도($m=2$면 $360^\circ$, 완전한 한 바퀴)를 돌아야 한다. 무한 반지름에서 한 바퀴를 도는 자취는 모든 유한한 점을 이미 $m$번씩 감싸고 지나간다 — −1도 예외가 아니다. 그래서 이런 계는 유한 주파수($\omega>0$) 구간 곡선의 모양에 따라 이 "대가 없이 감긴 바퀴"가 상쇄되기도, 더해지기도 한다. 2.4.9.1의 조건부 안정 예제가 바로 이 $m=2$(이중 적분) 경우이고, 그래서 "이득을 높여야 안정해지는" 반직관적 결과가 나온다.

실전 지침: 손으로 $m\ge2$의 감싸임을 세는 것은 실수하기 쉽다 — 무한 반지름 속에 파묻힌 감김수를 눈으로 구분하기 어렵기 때문이다. nyquist_plot(2.4.8)은 이 우회를 자동으로 처리해 곡선을 그려 주니, Type 1 이상 계(적분기가 하나라도 있는 대부분의 산업 루프)를 Nyquist로 분석할 때는 도구로 그리고, 의심스러우면 Routh(2.1)나 근궤적의 허수축 교차(2.2.3 R6)로 교차검증하라.

2.4.3 Nyquist 안정성 판정 — Z = N + P

Nyquist 판정: $Z = N + P$

• $Z$ = 폐루프 극 중 우반평면 개수 (0이어야 안정)
• $P$ = 개루프 극 중 우반평면 개수 ($L(s)$에서 셈)
• $N$ = $L(j\omega)$가 −1을 시계방향으로 감싼 횟수 (반시계는 음수)

따라서 안정 ⟺ Z=0 ⟺ N = −P.

특히 개루프가 안정($P=0$)하면: 안정 ⟺ −1을 감싸지 않음($N=0$). 가장 흔한 경우다 — $L(j\omega)$ 곡선이 −1을 바깥에 두고 지나가면 폐루프 안정.

개루프가 불안정($P>0$)하면 오히려 −1을 반시계로 $P$번 감싸야 폐루프가 안정해진다 — Routh·Bode로는 판별하기 어려운 이 경우를 Nyquist는 명확히 판별한다.

2.4.4 −1 점과 여유 — 얼마나 멀리 있나

안정성이 "−1을 감싸느냐"라면, 견고성은 "−1에서 얼마나 멀리 떨어져 지나느냐"다. 곡선이 −1을 근소한 차이로 비껴가면 — 작은 모델 오차·이득 변화·지연만으로 −1을 감싸 불안정해진다. 이 "여유"를 두 방향으로 잰 것이 이득 여유·위상 여유다.

2.4.5 이득 여유·위상 여유

2.4.5.1 정의

• 이득 여유(Gain Margin, GM): 위상교차 주파수 $\omega_{pc}$(∠L=−180°)에서

$$\mathrm{GM} = 1 / |L(j\omega_{pc})|$$ — dB로는 $\mathrm{GM}_{\mathrm{dB}} = -20\cdot\log_{10}|L(j\omega_{pc})|$

"위상이 이미 −180°인 그 주파수에서, 이득을 몇 배 더 키우면 |L|=1(불안정)에 닿나." $\vert L(j\omega_{pc})\vert<1$이면 GM>1, 안정 여유.

• 위상 여유(Phase Margin, PM): 이득교차 주파수 $\omega_{gc}$(|L|=1)에서

$$\mathrm{PM} = 180^\circ + \angle L(j\omega_{gc})$$

"이득이 이미 1인 그 주파수에서, 위상을 몇 도 더 잃으면 −180°(불안정)에 닿나." $\angle L(j\omega_{gc})=-130^\circ$면 PM=50°.

2.4.5.2 Bode·Nyquist에서 읽기

• Bode(2.3.7): $\omega_{gc}$에서 위상이 −180°보다 얼마나 위인가 = PM. $\omega_{pc}$에서 이득이 0 dB보다 얼마나 아래인가 = GM(dB).
• Nyquist: 곡선이 음의 실축과 만나는 점이 원점에서 얼마나 떨어져 있는가 — 그 거리의 역수가 GM이다(−1이 원점에서 1만큼 떨어져 있으므로). 점이 원점에서 멀수록(=−1에 가까울수록) GM은 작아져 여유가 준다 — 방향 감각은 "−1과 가까우면 위험"이 맞지만, GM 수치 자체는 그 점과 −1 사이의 선형 거리가 아니라 원점 기준 배율임에 주의(자세한 예시는 바로 아래). 단위원과 만나는 점이 음의 실축과 이루는 각이 PM — 이것은 실제로 각도이므로 그림에서 잰 각이 곧 PM이다.

예: $L(s)=18/[(s+1)(s+2)(s+3)]$(2.4.2·2.4.8과 같은 극 배치, 이득만 $K=18$) — GM≈10.5 dB, PM≈50°. 그림에서 곡선이 음의 실축과 만나는 점(위상교차 $\omega_{pc}$)은 원점에서 $\vert L(j\omega_{pc})\vert\approx0.30$($=1/\mathrm{GM}$) 떨어져 있다: 이 점을 원점 기준으로 $\mathrm{GM}\approx3.33$배($\approx10.5 \,\mathrm{dB}$) 확대해야 −1(원점에서 정확히 1)에 닿아 불안정 경계다 — GM은 그 점에서 −1까지의 선형 거리(이 예에서는 $\approx0.70$으로, 3.33과는 다른 수)가 아니라 원점 기준 배율이다. 단위원과 만나는 점(이득교차 $\omega_{gc}$, 사각 표시)에서 원점을 지나 음의 실축까지 잰 부채꼴 각이 PM: 위상이 그만큼 더 손실되면 그 점이 음의 실축(=−1과 같은 위상)에 닿는다. 정의(2.4.5.1)만으로는 추상적이던 GM·PM이 그림에서는 곡선 위 실제 배율·각도로 눈에 보인다. (✅ 검증됨 — margin 재계산 결과 $\omega_{pc}\approx3.32 \,\mathrm{rad/s}$에서 GM≈10.46 dB, $\omega_{gc}\approx1.71 \,\mathrm{rad/s}$에서 PM≈50.1°로 위 수치와 일치.)

2.4.5.3 권장값과 트레이드오프

트레이드오프: 여유를 키우면 견고해지지만 보통 대역폭이 줄어 느려진다(둔감). 너무 크면 응답이 느리고, 너무 작으면 민감하다. 흔한 균형이 PM≈50°·GM≈10 dB 근처다 — 정답이 아니라 출발점.

2.4.6 여유와 시간영역 — PM ↔ 감쇠

위상 여유는 폐루프 감쇠와 직결된다. 2차계 어림(널리 쓰는 경험식):

$$\zeta \approx \mathrm{PM} / 100$$ — PM은 도 단위, $\mathrm{PM} \lesssim 70^\circ$에서

즉 PM 50° ≈ $\zeta$0.5(오버슈트 ≈16%, 1.3), PM 60° ≈ $\zeta$0.6. 위상 여유가 작을수록 저감쇠라 진동한다. 그래서 "PM 45°↑"는 사실상 "오버슈트를 적당히 억제하라"와 같은 의미다.

세 관점의 연속(2.3.6): PM·GM(주파수) ↔ $\zeta$·극위치(s·시간). 한 곳의 여유 부족은 다른 곳의 진동으로 나타난다.

2.4.7 견고성 — 여유가 막아 주는 것

여유는 추상이 아니라 모델 오차·지연에 대한 보험이다.

• 이득 오차: 실제 이득이 공칭보다 GM배까지 커져도 안정. (모터 출력이 예상보다 큰 경우 등.)
• 지연: 모델에 없던 시간지연 $\tau_d$가 위상 $-\omega\tau_d$를 더한다(2.3.8). PM을 모두 소진하는 지연 여유:

$\tau_d(\max) = \mathrm{PM}$(라디안) $/ \omega_{gc}$

PM이 작거나 $\omega_{gc}$가 높으면 아주 작은 지연도 치명적이다 — 빠른 제어가 지연에 약한 이유.

• 벡터 여유·감도 피크 $M_s$: GM·PM은 두 방향만 본다. −1까지의 최단 거리가 더 정직한 척도다.

$$M_s = \max_\omega |S(j\omega)| = 1 / (\min_\omega |1 + L(j\omega)|)$$ — $S = 1/(1+L)$, 1.2.6

$M_s$는 −1 최단거리의 역수다. $M_s < 2$(6 dB)면 GM≥2·PM≥29°가 자동 보장된다 — 단일 수치로 견고성을 포착하는 현대적 선호 지표.

2.4.8 도구로 — nyquist_plot·margin

# margins.py — Nyquist 선도와 안정 여유
import control as ct
import matplotlib.pyplot as plt

L = ct.tf([10], [1, 6, 11, 6])      # 10/[(s+1)(s+2)(s+3)] (개루프 안정)
ct.nyquist_plot(L)                   # −1 점 감싸는지 확인
plt.show()

gm, pm, wpc, wgc = ct.margin(L)
print(f"GM={20*__import__('numpy').log10(gm):.1f} dB  PM={pm:.1f}°"
      f"  ω_pc={wpc:.2f}  ω_gc={wgc:.2f}")
# 지연 여유 ≈ PM(rad)/ω_gc,  감도 피크 Ms = max|S|

margin이 GM(배율)·PM(도)·교차주파수를 준다(GM은 dB로 변환해 읽어라). (출력·곡선은 여러분 환경에서 재현 — ✅ control 0.10.2 검증됨; 재현 권장.)

2.4.9 정직 — GM·PM의 함정

• 둘만으로 부족: GM·PM이 둘 다 넉넉해도, 곡선이 다른 지점에서 −1에 매우 가까이 지나가면 위험하다(둘은 두 방향만 본다). $M_s$(벡터 여유)가 더 정직하다(2.4.7).
• 조건부 안정(conditionally stable): 이득을 줄여도 불안정해지는 계가 있다 — "이득 여유가 양방향"인 경우. GM 한 숫자로는 안 드러난다. Nyquist 전체 모양을 봐야 한다.
• 비최소위상·지연: 추가 위상 지연(2.3.8)이 여유를 잠식하므로, 이득 곡선만 보고 안심하면 안 된다.
• 선형 한정: 모든 여유는 LTI·공칭 모델 기준. 포화·비선형이 크면 별도 검증(6.2).
• 정직 — Nichols 선도를 다루지 않는 이유: 고전 제어 3대 주파수영역 도구로 Bode·Nyquist와 함께 Nichols 선도(이득 vs 위상을 한 평면에 겹쳐 그리고 $M\cdot N$ 등고선으로 폐루프 성능까지 읽는 그림, 항공우주 루프 셰이핑에서 여전히 쓰인다)가 꼽히지만, 이 책은 의도적으로 생략했다. 이유: ① 안정 여유(GM·PM)는 Bode에서, 엄밀 판정은 Nyquist에서 이미 다뤘고 Nichols는 이 둘을 한 그림에 합친 것이라 새 정보를 주지는 않는다. ② margin() 한 줄이 수치를 바로 주므로, 손으로 등고선을 읽어야 하는 이점이 실무에서 옅다. 다만 도구 자체는 알아 둘 가치가 있다 — python-control의 nichols_plot으로 그릴 수 있고, 익숙해지면 보상기 설계(2.6) 중 이득·위상을 동시에 움직이며 사양 등고선에 맞추는 감각을 준다.

요점: GM·PM은 훌륭한 요약이되 충분조건은 아니다. 의심스러우면 Nyquist 전체 + $M_s$로 확인하라.

2.4.9.1 조건부 안정 예제 — 이득을 높여야 안정해지는 경우

조건부 안정을 그림으로 보면 왜 "몇 번 감싸나"만으로는 부족한지, 왜 근궤적의 평범한 직관(이득을 높이면 대체로 불안정에 가까워진다)이 항상 통하지 않는지 분명해진다.

$L(s) = K(s^2+0.2s+4) / [s^2(s+1)(s+10)]$ — 원점에 이중 적분 극이 있고, 약하게 감쇠된 공진 영점쌍($s^2+0.2s+4$, 즉 $\zeta\approx0.05, \omega_n=2$)이 있는 계다. $K=80$(점선)은 불안정, $K=300$(실선)은 안정이고, 그 경계인 임계이득은 $K\approx214$다(수치검증: 특성방정식 근의 최대 실부가 $K=213$에서 +0.0004, $K=214$에서 −0.00005로 부호를 바꾼다). 즉 이득을 낮추면 오히려 불안정해지고, 높여야 안정해진다 — "이득을 줄이면 더 안전하다"는 흔한 직관과 정반대다.

이유는 두 가지가 겹쳐서다. 첫째, 원점의 이중극($m=2$) 때문에 Nyquist 경로가 원점을 우회해야 하는데(2.4.2.1), 반원($180^\circ$) 하나가 아니라 완전한 한 바퀴($360^\circ$)만큼 무한 반지름으로 도는 더 큰 우회다 — 그 자체로 이미 모든 유한한 점을 두 번씩 감싸고 지나가므로, 이 "대가 없는 감김"이 유한 주파수 구간의 곡선과 겹쳐 감싸임 횟수 계산에 개입한다. 둘째, 약하게 감쇠된 영점쌍이 특정 주파수 대역에서 위상을 $0^\circ$나 $+180^\circ$ 쪽으로 잠깐 되돌렸다가 다시 흘려보내, 곡선이 −1을 스쳐 지나는 모양이 이득 $K$에 따라 크게 바뀐다. 그래서 원점 극의 우회를 정확히 반영하지 않고 단순히 "감싸는 횟수"만 세면 판정을 그르치기 쉽다 — 이런 계에서는 근궤적의 손쉬운 직관보다 Nyquist 전체(그리고 $Z=N+P$ 계산)가 필수적인 이유다.

정직하게: 이 예제는 특정 교과서를 인용한 것이 아니라 이 책이 요점을 보이려 구성한 예제다. $K\approx214$는 numpy.roots로 여러 $K$에 대해 특성방정식 근을 직접 계산해 검증했다(docker ce-verify). ✅ 검증됨.

2.4.9.2 세 관점 고르기 — 근궤적 vs Bode vs Nyquist

2.1~2.4 네 장은 안정성을 네 가지 다른 관점으로 봤다 — Routh(대수)·근궤적(s평면·파라미터)·Bode(주파수·크기+위상)·Nyquist(주파수·복소평면 감싸임). 넷 다 같은 물리적 사실을 본다는 전제가 같아 결과는 항상 일치해야 하지만(2.1.6과 2.2.4의 $K=6$ 일치가 그 증거), 먼저 손이 가는 도구는 상황마다 다르다.

몇 가지는 특히 주목할 만하다.

• 근궤적의 한계 — 시간지연. R1~R7(2.2.3)은 모두 $L(s)$가 유리함수(다항식/다항식)라는 전제 위에 서 있다 — 극·영점 개수가 유한해야 점근선(R4)·분기점(R5)이 정의된다. 지연 $e^{-s\tau}$가 섞이면 극이 무한히 많아져(초월함수) 이 규칙들이 그대로 안 통한다. 지연이 크면(FOPDT의 $L$이 $\tau$보다 크면, 1.4.4.1) 근궤적보다 Bode·Nyquist로 넘어가는 편이 낫다 — 2.5.9가 "지연 지배계에는 PID도 한계"라 말한 것과 같은 뿌리다.
• Nyquist는 Bode의 상위 호환처럼 보이지만, 손이 더 간다. 개루프가 안정·최소위상이면 Bode의 여유 읽기(2.3.7·2.4.5)로 충분하다 — 실무에서 가장 흔한 경우라 Bode가 기본 선택지다. Nyquist(와 $Z=N+P$, 그리고 2.4.2.1의 우회 절차)는 그 전제가 성립하지 않을 때(개루프 불안정·비최소위상·2.4.9.1 같은 조건부 안정)만 따로 사용한다.
• 넷은 경쟁이 아니라 검산 관계다. 2.1.6(Routh, $K<6$)·2.2.4(근궤적, 허수축 교차 $K=6$)이 같은 사실을 가리킨다 — 어느 하나로 설계했다면 다른 하나로 교차검증하는 습관이 안전하다(2.4.11 연습 7이 이 검산을 직접 시켜 본다).

2.4.10 정리 — 그리고 다음 장

• Nyquist 판정($Z=N+P$): $L(j\omega)$가 −1을 감싸는 횟수로 폐루프 안정성을 엄밀히 판정 — 개루프 불안정·비최소위상도 판별한다(2.4.3).
• 견고성 = −1과의 거리. 이득 여유(이득 몇 배 여유)·위상 여유(위상 몇 도 여유)로 정량화하고, Bode·Nyquist에서 읽는다(2.4.5).
• PM ≈ 100ζ — 위상 여유는 곧 감쇠·오버슈트(2.4.6). 여유는 모델 오차·지연에 대한 보험이며(2.4.7), 단일 척도로는 감도 피크 $M_s<2$가 정직하다.

이로써 제2부의 해석(안정·근궤적·Bode·Nyquist)을 마쳤다. 다음 2.5부터는 본격 설계 — 가장 널리 쓰이는 제어기 PID를 다룬다. 여기서 쌓은 여유·근궤적·응답 언어가 모두 튜닝의 기준이 된다.

2.4.11 연습·생각해 볼 것

1. 판정 적용. 개루프 $L$이 안정($P=0$)이고 Nyquist 곡선이 −1을 감싸지 않는다. 폐루프는 안정한가? 만약 $P=1$(개루프 극 하나가 RHP)인데 곡선이 −1을 반시계로 1번 감싼다면? (2.4.3)
2. 여유 읽기. 어떤 개루프에서 $\omega_{gc}=3$일 때 $\angle L=-145^\circ$, $\omega_{pc}=8$일 때 |L|=0.4였다. PM과 GM(배율·dB)을 구하라. 이 설계는 권장 범위인가? (2.4.5)
3. PM↔오버슈트. PM이 25°, 45°, 65°인 세 설계의 대략적 $\zeta$와 그에 따른 오버슈트 경향을 비교하라. 어느 것이 가장 진동하나? (2.4.6·1.3)
4. 지연 여유. 2번 설계(PM=35°, $\omega_{gc}=3$)에 모델에 없던 지연이 생긴다. 폐루프를 불안정하게 만드는 최소 지연 $\tau_d$는? $\omega_{gc}$가 2배였다면 $\tau_d$는 어떻게 변하나? (2.4.7)
5. 감도 피크. $M_s=3$인 설계와 $M_s=1.5$인 설계 중 어느 쪽이 견고한가? $M_s$가 −1과의 거리와 어떤 관계인지, 또 감도함수 $S$(1.2.6)와 어떻게 연결되는지 설명하라. (2.4.7)
6. 함정. GM=12 dB, PM=55°로 둘 다 넉넉한데도 위험할 수 있는 상황을 하나 들고, 어떻게 확인하겠는지 말하라. (2.4.9)
7. (손으로) margins.py로 $L=K/[s(s+1)(s+2)]$(2.1·2.2의 그 시스템)의 PM·GM을 $K=2$와 $K=5$에서 구해, $K$가 커질수록 여유가 어떻게 줄어 $K=6$에서 0이 되는지 확인하라. (검증 필요 — 2.1.6과 연결)

막히면 "안정은 −1을 감싸지 않기, 견고는 −1에서 멀리"라는 한 그림으로 돌아가라.