LLM은 어떻게 단어의 의미를 이해할까?Token과 Embedding의 원리 쉽게 이해하기ChatGPT와 같은 LLM(Large Language Model, 대규모 언어 모델)을 공부하다 보면 자주 등장하는 용어가 있습니다.· Token· Embedding· Transformer하지만 처음 접하면 이런 의문이 생깁니다.“AI는 글자를 어떻게 이해할까?”“Token은 무엇이고, Embedding은 왜 필요할까?”“AI는 어떻게 cat과 dog가 비슷한 단어라는 것을 알게 될까?”이번 글에서는 LLM이 문장을 이해하는 과정을 최대한 쉽게 설명해 보겠습니다.인간과 컴퓨터의 차이사람은 문장을 읽으면 바로 의미를 이해합니다.예를 들어 다음 문장을 보겠습니다.고양이는 귀엽..
