[김대식의 미래 사피엔스] [69] 스케일링 법칙의 종말?김대식 카이스트 교수입력 2024.12.02. 23:54 일러스트=조선디자인랩·Midjourney생성형 인공지능에는 ‘스케일링 법칙’이라는 게 있다. 사실 ‘법칙’이 아닌 알고리즘 자체의 개선보다 학습에 사용된 데이터 규모, 그리고 거대 언어 모델의 변수 개수가 성능 향상에 훨씬 큰 영향을 준다는 경험을 통한 ‘관찰’이라는 단어가 더 적절하겠다.사실 이해하기 어려운 ‘법칙’이다. 단순히 더 많은 부품을 사용한다 해서 더 좋은 자동차나 비행기가 갑자기 등장하지는 않는다. 더 좋은 기계가 나오려면 더 뛰어난 설계와 방식이 당연히 필요하겠다. 하지만 생성형 인공지능만은 다르다. 알고리즘과 구조가 거의 같지만, 모델을 키우기만 하면 더 좋은 결과를 얻을..
