인공지능 모델, 저품질 데이터 학습으로 인한 인지 능력 저하 경고

트렌드 키워드

• 뇌 썩음 (Brain Rot):

  주로 가볍거나 도전적이지 않은 온라인 콘텐츠의 과도한 소비로 인해 발생하는 개인의 정신적 또는 지적 상태의 저하를 의미하는 신조어. 2024년 옥스퍼드 올해의 단어로 선정되었으며, 인공지능 모델이 저품질 데이터를 학습했을 때 나타나는 인지 능력 저하 현상을 비유적으로 지칭

  “2024년 옥스퍼드 올해의 단어로 선정된 '뇌 썩음'은 '특히 온라인 콘텐츠의 과도한 소비로 인한 정신적 또는 지적 상태의 저하'로 정의.”
• 대규모 언어 모델 (LLM, Large Language Model):

  <

  방대한 양의 텍스트 데이터 세트를 학습하여 인간의 언어를 모방하고 이해하며 새로운 콘텐츠를 생성할 수 있는 인공지능 신경망 모델. 최근 챗봇 기술의 근간을 이루고 있으며, 복잡한 패턴 인식과 문맥 이해 능력을 바탕으로 다양한 작업에서 뛰어난 성능을 보이지만, 추론 능력이나 사실적 정확성(환각) 문제로 인해 수학과 같은 엄격한 논리가 필요한 분야에서는 그 효용성이 아직 검증 단계인 상황. 이 모델들은 자체적으로 새로운 개념을 발명하기보다는 학습한 내용을 조합하고 재구성하는 데 강점을 보이는 한계도 존재

  >

  1 / 15

  “새로운 연구에서 '지속적으로 불필요한 웹 텍스트에 노출되면 대규모 언어 모델(LLM)에 지속적인 인지 저하를 유발한다'는 사실을 발견.”
• 사고 건너뛰기 (Thought-skipping):

  인공지능 모델이 추론 과정을 충분히 거치지 않고 중간 단계를 생략하거나 건너뛰어 결론에 도달하는 현상. 저품질 데이터 학습으로 인해 모델의 논리적 사고 및 문제 해결 능력이 저하될 때 주로 발생하며, 오류 증가의 주요 원인으로 지목

  “연구진은 '모델이 추론 과정을 점점 단축하거나 건너뛰며, 이는 대부분의 오류 증가를 설명한다'고 설명하는 '사고 건너뛰기' 현상을 명명.”
• 윤리적 정렬 (Ethical Alignment):

  인공지능 시스템이 인간의 가치, 도덕, 윤리적 기준에 부합하도록 설계되고 작동하는 정도. AI 모델이 사회적으로 바람직하고 안전하며 편향되지 않은 행동을 하도록 유도하는 중요한 목표로, 저품질 데이터 학습 시 손상될 수 있는 요소

  “모델들은 또한 윤리적으로 덜 정렬되었고 두 가지 측정에서 더 정신병적 경향을 보임.윤리적 정렬”
• 오픈 소스 모델 (Open Source Model):

  소스 코드가 일반에 공개되어 누구나 자유롭게 접근, 사용, 수정, 배포할 수 있는 인공지능 모델. 연구 및 개발 커뮤니티의 협업을 통해 모델의 발전과 투명성을 촉진하는 방식이며, 메타의 라마(Llama)나 알리바바의 큐웬(Qwen) 등이 대표적인 예시

  “홍 연구원과 동료들은 사전 학습 과정에서 두 가지 오픈 소스 대규모 언어 모델에 여러 종류의 텍스트를 제공.오픈 소스 모델”