[Paper Review] 짧은 시험은 과소평가한다, SPINE 25턴에서 GPT 65%·Gemini 97%가 무너진다

한두 번만 반박해 보고 “이 챗봇은 아첨하지 않는다”고 말하기는 쉽습니다. 실제 대화는 그렇게 끝나지 않습니다. 틀린 전제를 고수하는 사용자가 답을 듣고 다시 밀며, 감정과 권위를 번갈아 쓰면, 처음 맞혀 둔 입장이 끝까지 남는지가 문제입니다.2026년 9월 8일 arXiv에 올라온 SPINE(Sustained Pressure-INduced Erosion, arXiv:2609.09090)은 그 질문을 최대 25턴 적응형 벤치마크로 고정합니다. Texas A&M University의 Leyuan Tang, Kangda Wei, Ruihong Huang과 University of Cincinnati의 Tianyu Jiang 논문입니다. LLM 프록시가 “틀렸지만 확신하는 사용자”를 연기하고, 대상 모델의 직..

• format_list_bulleted Data science/딥러닝 논문 리뷰
• · 2026. 9. 10.

[Paper Review] 프롬프트만 지키면 점수는 필요 없다, Random Attention 서빙 32–43%

긴 추론 모델은 답을 내기 전에 수만 토큰의 사고 과정을 남깁니다. 그 과정이 길어질수록 KV cache(키·값 캐시)는 선형으로 불어나고, 서빙 메모리는 금세 병목이 됩니다. 그래서 최근 KV eviction(캐시에서 무엇을 버릴지 고르는) 연구는 거의 같은 문장을 반복해 왔습니다. 토큰마다 “나중에 얼마나 중요할지”를 점수로 매기고, 상위만 남기라는 것입니다.2026년 9월 3일 arXiv에 올라온 Salesforce AI Research·UIUC 논문 Random Attention: Rethinking KV Cache Eviction for Efficient Reasoning(arXiv:2609.03430)은 그 전제를 정면에서 흔듭니다. 방법은 얇습니다. 프롬프트 전체는 절대 버리지 않고, 나머지..

• format_list_bulleted Data science/딥러닝 논문 리뷰
• · 2026. 9. 9.

[Medical] 폐암 SBRT에 면역치료 더해도, 2년 생존 82%

이른 아침, 방사선치료실로 이어지는 조용한 병원 복도.수술할 수 없는 초기 비소세포폐암(NSCLC)에서, 정위체부방사선치료(SBRT)는 오래 표준에 가까운 자리였습니다. 짧은 횟수의 고선량으로 국소를 노리니 통원 부담이 상대적으로 가볍고, 수술대에 오르기 어려운 고령·심폐 취약 환자에게는 현실적인 선택이었습니다.그런데 국소는 잡혀도 영역·원격 재발이 남고, 그 재발이 생존을 깎는다는 인식이 쌓이면서 “방사선에 면역항암제를 더하면 전신 성적표가 달라질까”라는 질문이 따라왔습니다. 병기 III에서 화학방사선 뒤 면역 공고화가 힘을 보인 PACIFIC의 서사가, 그 기대를 키운 배경이기도 합니다.2026년 9월 6일 Lancet에 실린 SWOG/NRG S1914 3상은 그 기대를 숫자로 받았습니다. atezo..

• format_list_bulleted Medical
• · 2026. 9. 8.

[Generative AI] 이것도 모르면서 생성 모델을 공부한다고 ?

요즘 Text to Image 모델을 보면 텍스트만 가지고 별걸 다 만듭니다.연구하는 분들은 이걸 수학적으로 어떻게 표현할까요?확률 변수 X는 $X$ ~ $p_\theta(x | c)$ 에서 샘플링 이런식으로 표현합니다.그런데 이 수식은 구체적으로 무슨 의미일까요 ? 수학 시간에 조건부 확률 이런 거 배우긴 했지만, 딥러닝에서는 이런 $\theta , x, c$ 녀석들이 뭐 어쨌다는 건지는 잘 모르겠습니다.이것들은 각각 모델 파라미터, 데이터를 표현하는 확률 변수 그리고 모델의 입력인데요, 각각이 어떤 의미인지 알아보겠습니다.$\theta$ = Model parameters$x$ = Random Variables$c$ = Model inputs먼저 이미지같은 데이터를 생성하는건요 확률 분포에서 샘플링하는..

• format_list_bulleted Data science
• · 2026. 6. 8.

TurboQuant, 이 녀석은 과연 스캠일까?

주식시장을 떠들썩하게 했던 이름도 스캠스러운 TurboQuant에 대해서 알아보겠습니다.퀀텀이라는 말을 개인적으로 싫어하지만 google에서 공개하고 핫한 주제라 알아보면 좋을거 같습니다. 구글의 공개 블로그를 보면서 어떤 기술인지 봅시다. 우선 turboquant를 시리즈로 한 번 알아보겠습니다.Turboquant라는 이름에서 알 수 있듯이 여기서 다루는 것은 Quantization이라는 개념입니다.Quantization을 먼저 이해해봅시다. 모든 실수 숫자를 0 이하면 0, 양수면 1이라고 Quantize할 수 있습니다. 이러면 모든 숫자를 둘로만 표현하는 셈이죠 ?이러면 0,1을 한 bit로만 나타낼 수 있는데요, 문제는 0과 1이라는 정보만으로는 사실상 양수, 음수 정보만 알 수 있기 때문에 정밀..

• format_list_bulleted Insight
• · 2026. 5. 26.

AI Distillation lineage? 리니지는 게임아니야? self distillation된 인공지능 모델의 문제점을 파악해보자

1. AI에도 족보가 있는가 AI 모델을 하나의 독립된 제품으로 보지 말자고 제안한다. 모델은 어느 날 갑자기 완성된 물건이 아니라, 이전 모델의 출력, 합성 데이터, 평가 기준, 후속 fine-tuning, distillation pipeline을 거쳐 만들어진다. 그래서 모델에는 일종의 “족보”가 생긴다. 이 비유는 조금 과장되어 보일 수 있다. 하지만 2026년 현재의 AI 개발 방식을 보면 꽤 정확하다. 대형 모델은 더 작은 모델을 만들기 위해 teacher 역할을 한다. 작은 모델은 큰 모델의 출력을 보고 학습한다. frontier lab은 자신의 이전 세대 모델로 새 모델의 synthetic data를 만든다. 스타트업은 특정 업무에 강한 teacher model의 결과를 수집해 domain..

• format_list_bulleted Insight
• · 2026. 5. 14.