한 글자씩 쓰는 AI

목차 › 제5장 속을 들여다보면

정리: 네 단계

번호표 → 판 → 단서 → 점수와 퍼센트

3D로 보기
쓴 글자 0글자 · 온도 0.8

한 글자를 맞히는 네 단계

넷째, 모은 단서로 계산해서 글자마다 점수를 낸다. 점수가 높은 글자일수록 퍼센트가 크다. 이 퍼센트가 처음에 본 릴의 칸 넓이다. 아래 상자에 네 단계를 정리했다.

왜?이 계산은 곱하기와 더하기를 아주 많이 하는 것이다. 이 작은 AI도 글자 하나를 맞힐 때마다 수십만 번 곱하고 더한다. 사람이 손으로 하면 몇 주가 걸릴 일을, 컴퓨터는 눈 깜빡할 사이에 끝낸다.

더 알기점수를 합이 100%인 퍼센트로 바꾸는 계산은 소프트맥스라고 부른다. 단서를 모으고 계산하는 일은 두 번(층 2개) 되풀이한다.

이 장면을 3D로 보기 →

더 읽기

Wikipedia: Softmax function

시리즈의 다른 작품

이 작품을 위해 새로 쓴 옛이야기·우화 40편(약 84,610자)으로 작은 AI(글자 단위 언어 모델, 다이얼 109,398개)를 실제로 학습시키고, 그 AI로 계산한 값입니다. 공부용 작은 모형이며, 대화하는 AI 서비스는 훨씬 큽니다.