언어 모형(language model)의 핵심 역할로 가장 적절한 것은?
밥을 먹었다와 밥을 마셨다의 차이를 무엇으로 나타낸다고 했는지 떠올려 보세요.
문법 규칙을 미리 정리해 두고 문장이 그 규칙에 맞는지 판정하는 것문장이 사실인지 아닌지를 자료와 대조해 검증하는 것다음에 올 단어를 확률로 예측해 문장의 자연스러움을 수치화하는 것문장을 벡터로 바꿔 문서들 사이의 유사도를 계산하는 것
다음에 올 단어를 확률로 예측해 문장의 자연스러움을 수치화하는 것토큰(Token)에 대한 설명으로 가장 적절한 것은?
LLM이 왜 글자 수 세기를 어려워하는지와 연결해 생각해 보세요.
언어 모형이 입력과 출력을 처리하는 단위로, 단어보다 작은 준단어인 경우가 많다형태소 분석을 거쳐 얻어지는 언어학적 최소 의미 단위이다글자 하나하나에 대응하는 단위여서 모형이 글자 수를 정확히 셀 수 있다모형이 학습에 사용한 서로 다른 단어의 총 개수를 뜻한다
언어 모형이 입력과 출력을 처리하는 단위로, 단어보다 작은 준단어인 경우가 많다결과가 결정되어 있기 때문에 결정론적이라고 설명합니다.
생성할 때마다 반드시 다른 텍스트를 만든다주어진 텍스트가 같으면 항상 똑같이 이어지는 텍스트를 생성한다확률이 낮은 토큰만 골라 다양성을 높인다난수를 이용해 다음 토큰을 선택한다
주어진 텍스트가 같으면 항상 똑같이 이어지는 텍스트를 생성한다재미로 대화하는 경우에는 매번 조금씩 다르게 답변하는 쪽이 만족도가 높을 수 있다고 설명합니다.
번역처럼 하나의 정답에 가까운 결과가 필요한 경우모든 답변을 항상 같은 문장으로 고정해야 하는 경우어느 정도 말이 되면서 다양한 답변이 중요한 경우토큰 확률을 계산하지 않는 경우
어느 정도 말이 되면서 다양한 답변이 중요한 경우강화 학습에서 행위자(agent)가 찾아야 하는 것으로 가장 적절한 것은?
보상(reward)과 수익(return, G)이 어떻게 다른지 구분해 보세요.
각 단계에서 즉각적인 보상이 가장 큰 행동을 고르는 규칙장기간 누적된 수익이 가장 커지도록 상태에 따라 행동을 정하는 정책환경이 줄 보상 함수 자체를 스스로 설계하는 절차가능한 모든 상태를 빠짐없이 방문하는 탐색 순서
장기간 누적된 수익이 가장 커지도록 상태에 따라 행동을 정하는 정책ChatGPT 학습 3단계에 대한 설명으로 가장 적절한 것은?
3단계에서 실제로 갱신되는 것이 GPT인지 보상 모형인지 구분해 보세요.
보상 모형이 사람의 평가를 더 정확히 예측하도록 보상 모형 쪽을 학습한다사람이 생성된 답변마다 실시간으로 점수를 매겨 GPT를 학습한다보상 모형의 점수가 높은 답변을 더 잘 생성하도록 GPT 쪽을 학습한다GPT와 보상 모형을 대결시켜 이긴 쪽만 남기는 방식으로 학습한다
보상 모형의 점수가 높은 답변을 더 잘 생성하도록 GPT 쪽을 학습한다스케일링 법칙은 크기와 자원을 늘릴 때 성능 곡선이 어떻게 움직이는지를 보는 관점입니다.
모델 성능은 학습 데이터와 계산량에 관계없이 무작위로 결정된다작은 모델은 충분한 데이터가 있어도 절대 성능이 좋아질 수 없다계산량, 데이터셋 크기, 모델 크기 변화에 따라 성능이 일정한 패턴을 보인다언어 모델에만 적용되고 다른 생성 모델에는 적용되지 않는다
계산량, 데이터셋 크기, 모델 크기 변화에 따라 성능이 일정한 패턴을 보인다프롬프트 엔지니어링 방법 중 Few-Shot에 대한 설명으로 맞는 것은?
few는 0이 아니라 적은 수의 사례를 뜻합니다.
예시를 전혀 제시하지 않는 방법이다모델 출력물을 다시 모델이 비판하게 하는 방법이다몇 개의 예시를 함께 제시하는 방법이다하나의 문제를 여러 번 풀어 결과를 합치는 방법이다
몇 개의 예시를 함께 제시하는 방법이다AI 시스템이 개선될수록 난해한 프롬프트의 필요성이 줄어든다고 보는 이유는?
좋은 시스템은 사용자의 의도를 더 적은 설명으로도 파악하는 쪽으로 발전합니다.
모든 모델이 더 이상 자연어 입력을 받지 않기 때문에모델이 사용자가 원하는 것을 더 잘 알아내는 방향으로 개선되기 때문에프롬프트를 길게 쓸수록 항상 성능이 떨어지기 때문에미세조정 비용이 완전히 사라졌기 때문에
모델이 사용자가 원하는 것을 더 잘 알아내는 방향으로 개선되기 때문에증강 augmentation의 의미로 가장 적절한 것은?
모델 자체 밖에 있는 함수나 프로그램을 호출해 부족한 능력을 보완하는 접근입니다.
언어 모델의 파라미터 수를 줄여 추론을 빠르게 만드는 것외부 도구를 사용해 언어 모델의 성능이나 능력을 높이는 것학습 데이터를 모두 제거하고 프롬프트만 사용하는 것모든 작업을 하나의 텍스트 생성 문제로만 처리하는 것
외부 도구를 사용해 언어 모델의 성능이나 능력을 높이는 것자연어 이해, 계획 수립, 도구 사용, 반복적 상호작용을 함께 떠올리면 됩니다.
사람이 모든 단계의 행동을 직접 선택해야만 작동하는 시스템인간의 개입 없이 스스로 작업을 수행할 수 있는 시스템 또는 소프트웨어 프로그램텍스트를 생성하지만 도구나 계획은 사용할 수 없는 단순 언어 모델이미 정답이 있는 객관식 문제만 채점하는 프로그램
인간의 개입 없이 스스로 작업을 수행할 수 있는 시스템 또는 소프트웨어 프로그램복잡한 작업에서 단일 '슈퍼 에이전트'보다 멀티에이전트 접근이 유리할 수 있는 이유는?
인간 조직처럼 역할을 나누면 각 담당자가 더 좁은 문제에 집중할 수 있습니다.
모든 에이전트가 같은 역할을 반복하면 오류가 항상 사라지기 때문에복잡한 프로세스를 하위 작업으로 나누고 전문 에이전트에게 맡길 수 있기 때문에에이전트 수가 늘어나면 모델 호출 비용이 자동으로 줄어들기 때문에멀티에이전트에서는 검증 단계가 필요 없어지기 때문에
복잡한 프로세스를 하위 작업으로 나누고 전문 에이전트에게 맡길 수 있기 때문에