모아의 기웃기웃 · AI 이해하기 · 1편
AI는 어떻게 배울까?
점에 맞춰 선을 움직여 보세요.
집의 크기로 전기 사용량을 예상하듯, 입력과 관측의 짝에서 예측 규칙을 찾아봅니다. 여기서는 단위 없는 가상 좌표5개로 선을 맞추고, 자동 학습과 새 입력의 예측을 비교합니다.
선의 모양을 정하는 두 숫자
예측 y=wx+b에서 w는 기울기, b는 절편입니다. 점 다섯 개는 고정하고 선의 두 숫자를 바꿉니다.
틀린 정도를 나타내는 MSE
잔차는 관측값−예측값입니다. 각 잔차를 제곱해 평균을 내면 MSE가 됩니다. 처음 w=0, b=0에서는8.3이며 정확도 백분율이 아닙니다.
한 번의 학습
손실을 살펴보고 매개변수를 한 걸음 고칩니다. 학습률0.20의 첫 걸음은 w=1.52, b=0.40, MSE=0.7288입니다. 움직이는 선과 숫자를 함께 비교해 보세요.
이 예제의 최소 손실
최소제곱 직선은 y=1.9x+1, 최소 MSE는0.08입니다. 다섯 점이 한 직선 위에 있지 않아0까지 줄어들지 않습니다.
학습률은 모형마다 달라요
0.02·0.20·0.55를 같은 출발점에서 비교하세요. 0.55는 이 모형에서 오차가 커지는 시연값입니다. 다른 AI의 학습률을 정하는 기준으로 사용하면 안 됩니다.
새 점을 예측할 때
‘스스로 배우기’에서 학습률0.20을 고르고 ‘처음부터’ 다음 ‘자동 학습’을 눌러 멈출 때까지 기다리세요. 그다음 ‘새 점 예측’에서 x=1.5를 넣으면 약3.85가 나옵니다.
예측에는 현재 선을 사용하므로 학습 전이나 선을 직접 바꾼 뒤에는 값이 달라질 수 있어요. 새 입력을 바꿀 때 w와 b는 고정됩니다. 새 점의 관측 정답이 없어 정확도는 아직 모릅니다.
이 선 맞추기가 신경망과 어떻게 이어질까요?
입력과 실제 관측의 짝에서 예측 규칙을 찾는 것이 출발점입니다. 이번에는 두 매개변수를 조정했습니다. 신경망은 더 복잡한 계산 구조와 많은 가중치·편향을 사용하며, 예측을 만들고 손실에 따라 매개변수를 조정하는 연결을 이어갑니다.
이 실험은 그 구조를 작게 본 예제입니다. 선형회귀 하나로 모든 AI의 학습을 설명할 수는 없습니다. Google 신경망 입문
수식으로 더 알아보기
한 걸음의 계산
고정한 다섯 점에서 L=0.08+2(w−1.9)²+(b−1)²입니다. 미분은 ∂L/∂w=4(w−1.9), ∂L/∂b=2(b−1)입니다.
시작점 w0, b0에서 학습률0.20으로 갱신하면 w=0−0.20×(−7.6)=1.52, b=0−0.20×(−2.0)=0.40입니다. 이 선의 MSE는0.7288입니다.
0.55가 발산하는 이유
최적값에서 벗어난 정도가 w에서는(1−4×학습률)배, b에서는(1−2×학습률)배가 됩니다. 두 배율의 절댓값이 모두1보다 작은 범위는0<학습률<0.5입니다. 학습률0.55에서 w의 차이는−1.2배가 되어 진동하며 커집니다.
현재 데이터·MSE·전체 배치 경사하강에서만 직접 계산한 조건입니다.
그림 여섯 장으로 다시 보기






54초 영상으로 복습하기
직접 제작한 한국어 자막 애니메이션 · 음성 없음