AI POCKET님의 블로그

최근 스마트폰이나 노트북 신제품이 출시될 때마다 제조사들은 한 가지 기능을 빠지지 않고 강조합니다. “AI 성능이 더욱 향상되었습니다.”“최신 NPU를 탑재했습니다.”“온디바이스 AI를 지원합니다.” 애플은 Neural Engine이라는 이름으로 AI 성능을 소개하고 있으며, 삼성전자 역시 최신 갤럭시 시리즈에서 NPU 성능 향상을 강조합니다. 퀄컴의 스냅드래곤, 인텔의 Core Ultra, AMD Ryzen AI와 같은 최신 프로세서 역시 AI 연산을 위한 전용 하드웨어를 중요한 특징으로 내세우고 있습니다. 몇 년 전까지만 해도 컴퓨터의 성능을 이야기할 때는 CPU와 GPU만 알면 충분했습니다. 하지만 이제는 NPU라는 새로운 용어가 등장하면서 많은 사람들이 이런 궁금증을 갖기 시작했습니다. “AI는 ..

생성형 AI를 자주 사용하는 사람이라면 이런 경험을 한 번쯤 해보셨을 것입니다.처음에는 긴 문서를 업로드하거나 많은 지시사항을 입력하면 AI가 답변을 생성하는 데 다소 시간이 걸립니다. 그런데 같은 문서를 기반으로 다시 질문하거나 비슷한 요청을 이어서 하면, 이전보다 훨씬 빠르게 답변이 생성되는 경우가 있습니다.예를 들어 100페이지 분량의 보고서를 AI에게 업로드한 뒤 “이 문서를 요약해 주세요. “라고 요청했다고 가정해 보겠습니다. 첫 번째 요청에서는 AI가 문서 전체를 읽고 내용을 이해해야 하기 때문에 시간이 조금 더 걸릴 수 있습니다. 하지만 이어서 “3장의 핵심 내용만 설명해 주세요.”, “이 보고서의 문제점을 정리해 주세요.”, “발표 자료 형태로 다시 작성해 주세요. “와 같은 질문을 계속한..

AI는 문장을 읽을 때 모든 단어를 함께 살펴봅니다우리가 책을 읽거나 대화를 할 때는 단어를 하나씩 읽더라도 머릿속에서는 문장 전체를 함께 이해합니다.예를 들어 “철수는 학교에 갔다. 그는 친구를 만났다.”라는 문장을 읽으면 대부분의 사람들은 ‘그는’이 누구를 가리키는지 별다른 고민 없이 철수라는 것을 이해합니다. 앞에서 등장한 정보를 자연스럽게 기억하고 있기 때문입니다. 하지만 컴퓨터는 사람처럼 직관적으로 문장을 이해하지 못합니다. 만약 단어를 순서대로만 읽는다면 ‘그는’이라는 단어가 정확히 누구를 의미하는지 판단하기 어렵습니다. 앞에서 등장한 수많은 단어들 중 어떤 단어를 참고해야 하는지를 스스로 알아야 하기 때문입니다. 바로 이 문제를 해결하기 위해 등장한 기술이 Self-Attention입니다.S..

AI를 사용하다 보면 신기한 경험을 자주 하게 됩니다. 예를 들어, AI에게 “오늘 서울 날씨 알려줘."“1,257 × 893을 계산해 줘.”“이 PDF 파일을 요약해 줘.”“내 캘린더에서 오늘 일정을 확인해 줘.”“최신 AI 뉴스를 찾아줘.” 와 같은 요청을 하면 AI는 마치 모든 기능을 직접 가지고 있는 것처럼 자연스럽게 결과를 알려줍니다. 그래서 많은 사람들이 처음에는 이런 생각을 하곤 합니다. “AI는 계산기도 가지고 있고, 인터넷도 자유롭게 검색할 수 있는 걸까?” 하지만 실제로는 조금 다릅니다.생성형 AI의 핵심인 LLM(Large Language Model) 은 기본적으로 텍스트를 이해하고 다음에 올 단어를 예측하는 모델입니다. 즉, AI 자체가 계산기를 내장하고 있는 것도 아니고, 인터넷을..

최근 AI를 사용하다 보면 키보드보다 목소리로 AI와 대화하는 경험이 점점 자연스러워지고 있습니다.ChatGPT Voice, Gemini Live, Copilot Voice와 같은 서비스들은 마치 사람과 통화하듯 AI와 대화를 이어갈 수 있도록 지원합니다.질문을 입력하지 않아도 AI에게 직접 말을 걸 수 있고, AI 역시 자연스러운 목소리로 답변을 들려줍니다. 몇 년 전까지만 해도 이러한 기술은 영화 속에서나 볼 수 있는 미래 기술처럼 느껴졌습니다. 하지만 지금은 스마트폰 하나만 있어도 누구나 음성 AI를 쉽게 사용할 수 있는 시대가 되었습니다. 그렇다면 이런 궁금증이 생깁니다.AI는 어떻게 사람의 말을 이해할까요? 사람의 목소리는 단순한 텍스트가 아니라 수많은 소리의 파형으로 이루어져 있습니다. 그런데..

AI를 공부하다 보면 한 번쯤은 임베딩(Embedding)이라는 용어를 만나게 됩니다. AI 관련 기술 문서를 읽거나 RAG, 벡터 데이터베이스(Vector Database), 의미 기반 검색(Semantic Search) 같은 개념을 공부하다 보면 거의 빠지지 않고 등장하는 단어입니다. 하지만 처음 이 용어를 접하면 다소 어렵게 느껴질 수 있습니다.‘텍스트를 벡터로 변환한다.’, ’ 고차원 공간에 임베딩한다.’와 같은 설명을 보면 더욱 복잡하게 느껴지기도 합니다. 사실 임베딩의 핵심 원리는 생각보다 단순합니다.AI가 단어의 ‘의미’를 숫자로 표현하는 기술이라고 이해하면 됩니다. 사람은 ‘강아지’와 ‘고양이’를 보면 둘 다 동물이라는 것을 자연스럽게 이해합니다. 또한 ‘자동차’는 동물과 전혀 다른 개념이..