프로필사진

Paper Tale/Top ML Papers of the Week

🥇 이주의 ML 논문 (2023-03-20 ~ 2023-03-26)

다각 2023. 12. 11. 18:23

아래의 글은 NLP Newsletter by Elvis에서 허락을 받고 가져온 글이며, 원문은 다음 링크 The top ML Papers of the Week (Mar 20 - Mar 26)에서 확인할 수 있습니다.

 

1) Sparks of AGI - GPT-4 초기 버전에 대한 포괄적인 조사 (paper)


2) Reflexion - 동적 메모리와 자기 반성 능력을 갖춘 에이전트를 제안함. 이는 기존 추론 추적 능력 및 작업별 액션 선택 능력을 향상시킬 수 있음 (paper)


3) GPT-4 for Medical Challenge Problems - USMLE에서 GPT-4가 합격 점수를 20점 이상 초과하며 GPT-3.5 및 의학 지식에 특화된 모델(Med-PaLM, Flan-PaLM 540B의 프롬프트 튜닝 버전)보다 우수한 성능을 보임 (paper)


4) GPTs are GPTs - GPT 모델과 관련 시스템이 미국 노동 시장에 미칠 잠재적인 영향을 조사 (paper)


5) CoLT5 - 조건부 계산을 채택한 긴 입력(long-input) 트랜스포머 모델로, 피드포워드나 어텐션 레이어에서 중요한 토큰에 더 많은 리소스를 할당함 (paper)

 

6) Artificial muses - 인간이 생성한 아이디어를 ChatGPT 및 YouChat과 같은 생성형 AI 챗봇이 생성한 아이디어와 비교한 결과, GPT-4보다 창의적인 사람은 9.4%에 불과했으며, GAIs가 창의적인 프로세스를 효과적으로 보조할 수 있음을 보고함 (paper)


7) Analysis of GPT-3 and GPT-3.5 - GPT 시리즈 모델의 포괄적인 능력 분석; 21개 데이터 세트를 사용하여 9가지 자연어 이해 성능 평가 (paper)


8) Context-faithful Prompting for LLMs - 의견 기반 프롬프트나 가상 시연과 같은 전략을 사용하여 LLM의 신뢰성(faithfulness)을 개선하기 위한 프롬프팅 기술을 제시 (paper)


9) Text2Room - 2D 텍스트-이미지 모델로부터 실내 규모(room-scale)의 텍스처 3D 메쉬를 추출하는 방법 (paper)


10) PanGu-Σ - 조단위의 파라미터를 가진 언어 모델로, 희소 혼합 컴퓨팅(sparse heterogeneous computing)을 사용 (paper)