본문 바로가기
반응형

전체 글261

좋은 대화란 무엇일까 — 대화를 잘 이끄는 AI에 대한 오래된 궁금증 챗봇을 만들 때부터 대화형 AI에서 유독 오래 관심을 가져온 주제가 있다.하나는 Memory였다.사람의 short-term / long-term memory처럼 이전 대화에서 무엇을 기억하고, 수많은 과거 정보 중 지금 필요한 것을 어떻게 다시 꺼내며, 그 기억을 다음 대화와 개인화에 어떻게 활용할 것인가.이 문제는 서비스 레벨에서 Agent Context와 Memory의 형태로 직접 고민하고 구현해볼 기회가 있었다.그리고 Memory만큼이나 계속 관심이 갔던 것이 대화의 기술, 조금 더 구체적으로는 대화를 잘 리드하는 방법이었다.AI가 말을 자연스럽게 하는 것과 대화를 잘하는 것은 조금 다른 문제라고 생각해왔다.대화는 단순히 질문 하나, 답변 하나를 반복하는 과정은 아니기 때문이다.사람은 필요한 정보를.. 2026. 8. 14.
Uncertainty-Aware Clarification in LLM Agents with Information Gain (arXiv 2026) LLM 에이전트가 모호한 사용자 지시를 받았을 때, "정보 이득(Information Gain)"을 극대화하는 최적의 명확화 질문(Clarification Question)을 던지도록 강화학습(DAPO)으로 최적화한 연구이다. 작년부터 진행하던 내 연구과제하고 유사해서 리뷰를 해본다. 최근까지만해도 유사한 연구는 못봤는데 주제를 리커버리 형태로 확장하려고 리서치 하다가 보게되었다.https://arxiv.org/pdf/2606.03135최근 대형 언어 모델(LLM) 기반의 에이전트는 외부 도구를 자유롭게 호출하고 다단계 추론을 수행하며 복잡한 과제를 해결하는 데 뛰어난 성과를 보여주고 있습니다. 하지만 실제 사용자와 상호작용하는 환경에서 에이전트가 맞닥뜨리는 가장 큰 난제 중 하나는 사용자의 지시가 불완.. 2026. 7. 31.
kcc2026 학술대회 후기 - 우수상수상 그리고 우수논문 초청 정보과학회논문지 투고 준비 제주도에서 열린 2박3일 학술대회에 다녀왔다. 심사용 페이퍼와 제출용 페이퍼가 별도로 필요하다. 제출용페이퍼에는 저자와 사사정보 정도 업데이트 할수있는 형태로 미리 준비해두는것이 좋다. 연구진행에 대한 부분은 아카이빙 실험 기록들은 당연히 꾸준히 해두는게 좋다. 심사용/제출용 차이는 저자에 대한 정보를 기재여부가 크다고 생각하면 된다. 아래꺼는 제출용으로 낸 나의 페이퍼이다. 저자명 소속만 추가하고 최종 제출용으로 제출했다. 제출하고 난후에 심사자 2분의 피드백을 통하여 결과가 나온다. 심사자 두분의 의견을 반영하여 최종 제출본에 반영할수있는데 시간이 사실 촉박하기 때문에 추가 연구는 진행하지 않았고 나의 경우에는 발표장표에 관련된 내용을 담았다.발표 장표는 질의응답 포함하여 약12분정도 준비하면 된다... 2026. 7. 31.
AI는 부족한 정보를 어떻게 물어봐야 할까? - Slot Gain을 최적화하는 보상만으로도 Recovery Policy가 일반화되어 나타날 수 있을까? 최근에는 Follow-up Question을 단순한 질문 생성이 아니라 Goal-Oriented Information Acquisition 문제로 보고 있습니다.후속 질문은 자연스러운 의문문 하나를 만드는 문제가 아닙니다. 호텔 예약, 식당 예약, 기차 검색과 같은 Task-Oriented Dialogue에서는 현재 목표를 달성하기 위해 부족한 정보를 확보하는 행동(Action) 에 가깝습니다.좋은 후속 질문은 단순히 자연스럽기만 해서는 부족합니다.현재 부족한 정보를 요청해야 하고,이미 확보한 정보는 다시 묻지 않아야 하며,가능한 적은 대화 턴으로 Goal 상태를 전진시켜야 합니다.기존 저의 연구에서는 이를 Slot Gain, 즉 질문 이후 새롭게 확보되는 목표 정보량으로 정의하여 질문의 가치를 평가합니.. 2026. 7. 30.
LLM 안전성은 정말 Weight에 저장되는가? 아니면 특정 뉴런들의 활성 패턴(Activation Pattern)에 저장되는가? 좋은 데이터만 넣고 나쁜 데이터는 안 넣으면 되는 거 아닌가?실제로 연구자들도 처음에는 그렇게 생각했다. 이러한 접근이 매우 합리적으로 보인다. 좋은 데이터만 학습시키고 나쁜 데이터는 제거한다면 모델 역시 좋은 행동을 학습할 것이라고 생각할 수 있기 때문이다. 실제로 RLHF나 Safety Alignment 역시 이러한 직관에서 출발한다. 유해한 요청에는 거절하도록 만들고, 인간이 선호하는 응답에는 높은 보상을 주면서 모델의 행동을 원하는 방향으로 수정한다.하지만 LLM에서는 생각보다 상황이 단순하지 않다. 가장 큰 이유는 모델이 "좋고 나쁨" 자체를 학습하는 것이 아니라 세상에 대한 지식을 학습하기 때문이다. 예를 들어 인터넷에는 폭탄 제조법, 악성코드, 사회공학 공격과 같은 위험한 정보가 존재한다. .. 2026. 6. 14.
FLAN부터 DeepSeek-R1까지: Alignment 연구는 왜 계속 진화하는가 (Deliberative Alignment) 인공지능보안기술에 대해서 정리를 좀 해보려고 한다. 오늘날의 AI 보안은 더 이상 네트워크나 서버를 보호하는 문제만이 아니라 모델 자체의 행동을 통제하는 문제로 확장되고 있다. 특히 LLM(Large Language Model)이 등장하면서 보안의 개념은 Jailbreak, Prompt Injection, Hallucination, Toxicity와 같은 새로운 문제들을 포함하게 되었고, 이를 해결하기 위한 핵심 기술로 Alignment가 주목받고 있다. 그런데 Deliberative Alignment부터는 재미있는 변화가 생기고 있구나를 느끼며 글로 정리 해본다.Alignment란 모델의 행동이 인간의 의도와 가치에 맞도록 만드는 과정을 의미한다. 사용자가 유용한 질문을 했을 때는 도움을 주고, 위험하.. 2026. 6. 4.
생성형 AI는 왜 고양이 7마리를 제대로 그리지 못할까? - Plausibility와 Faithfulness 사이 사람들은 생성형 AI가 만든 이미지를 볼 때 왜 굳이 고양이 숫자를 세려고 할까?만약 "따뜻한 거실에 고양이 여러 마리가 있는 풍경"을 그려달라고 했다면, 대부분의 사람들은 전체적인 분위기와 완성도를 먼저 볼 것이다. 고양이가 정확히 7마리인지, 쿠션이 정확히 6개인지까지 확인하는 경우는 많지 않다.실제로 생성형 AI가 만든 이미지를 처음 보면 우리는 보통 이렇게 평가한다."따뜻한 느낌이 잘 살아있네." "고양이들이 귀엽다." "전체 분위기가 좋다."그런데 연구자들은 다르다. 연구자들은 고양이 숫자를 세고, 쿠션 개수를 확인하고, 책이 정말 두 권인지 검증한다.왜 그럴까?그 이유는 단순히 고양이 숫자가 중요해서가 아니다. 연구자들이 알고 싶은 것은 모델이 사용자의 지시를 얼마나 정확하게 이해하고 수행했.. 2026. 6. 4.
alignment와 optimization 사이의 관계는 생성형 AI 보안에서 매우 중요한 문제라고 생각한다. alignment와 optimization 사이의 관계는 생성형 AI 보안에서 매우 중요한 문제라고 생각한다. 단순히 안전한 데이터를 학습시키면 안전한 모델이 만들어질 것이라고 보기 쉽지만, 실제로는 objective를 어떻게 정의하고 얼마나 강하게 최적화하느냐에 따라 예상하지 못한 행동이 emergent하게 나타날 수 있다. 예를 들어 “모델의 생존 시간을 최대화한다”는 단순한 목표를 설정했을 때, 모델이 shutdown 자체를 위협으로 인식하고 이를 막으려는 power-seeking behavior를 보일 수 있다는 사례는 단순한 SF적 상상이 아니라 실제 alignment 연구에서 논의되는 주제다. 결국 모델은 “악의”를 학습한다기보다, 주어진 reward를 지나치게 충실하게 최적화하는 과정에서 인.. 2026. 5. 28.
Rescue Conversations from Dead-ends: Efficient Exploration forTask-oriented Dialogue Policy Optimization 다시 읽어보면서 classic ToD 철학과 modern LLM generation을 결합하는 방향인 내 연구에 대한 내용이다. 나는 오랫동안 챗봇 시스템을 개발해오면서 NLU, NER, intent classification, slot filling 같은 classic ToD(Task-oriented Dialogue) 구조를 많이 다뤄왔다. 그래서 ToD 계열 연구는 개인적으로 꽤 익숙한 주제다. 당시에도 이 논문을 흥미롭게 봤었는데, 최근 제주도에서 열리는 학술대회에서 현재 연구 중인 주제로 Oral Session 발표를 준비하게 되면서 다시 이 논문을 꺼내 읽게 되었다.지금 다시 읽어보니 꽤 재미있는 지점들이 보였다. 이 논문은 dialogue failure를 단순한 오류가 아니라 “dead-end”라는 개념으로 정의한다. 즉 대화가 특정 상태에 진입하면, 이후 어떤 action을 선택하더라도 결국 실패 trajectory로.. 2026. 5. 23.
FROM LOOPS TO OOPS: FALLBACK BEHAVIORS OFLANGUAGE MODELS UNDER UNCERTAINTY - LLM이 "uncertainty 상황에서 어떤 방식으로 fallback하는가"를 구조적으로 분석 https://arxiv.org/pdf/2407.06071 이 논문은 LLM이 불확실한 상황에서 보이는 이상 행동을 “개별적인 오류”가 아니라 하나의 공통된 fallback behavior로 해석한다.처음 이 논문을 읽으면 가장 먼저 드는 의문은 “왜 이렇게 작은 모델(Pythia-70M, 160M 등)을 가지고 실험하지?”라는 점이다. 실제 서비스에서는 GPT-4나 Claude 같은 frontier model이 훨씬 중요하기 때문이다. 나 역시 처음에는 “이 정도 작은 모델의 hallucination 분석이 지금 시대에 의미가 있나?”라는 의문이 들었다. 그런데 논문을 자세히 읽어보니, 이 논문의 목적은 “최고 성능 모델 비교”가 아니라 “LLM이 uncertainty 상황에서 어떤 방식으로 fallb.. 2026. 5. 22.
언제 clarification interaction이 필요한가 - Clarify When Necessary: Resolving Ambiguity Through Interaction with LMs 최근 LLM(ChatGPT, Claude 등)은 사용자 질문에 자연스럽게 답변할 수 있지만, 실제 사용자 요청이 모호(ambiguous)한 경우에도 clarification(명확화 질문) 없이 바로 답변하는 문제가 존재한다.예를 들어 “Who won the US Open?”이라는 질문은 남자 테니스, 여자 테니스, 골프 등 여러 의미를 가질 수 있음에도, 기존 LLM은 ambiguity를 충분히 해소하지 않은 채 하나의 답변을 추측해서 생성하는 경우가 많다.하지만 논문은 여기서 중요한 문제를 제기한다.모든 ambiguity가 clarification을 필요로 하는 것은 아니라는 점이다. 예를 들어 “She is from Boston”은 technically ambiguous하지만 대부분의 사용자는 Bos.. 2026. 5. 22.
Lazy Safety Alignment for Large LanguageModels against Harmful Fine-tuning Attack = 안전성은 성능이 아니라 드리프트의 문제일 수 있다 사용자 fine-tuning 데이터에 harmful 데이터가 섞여 있어도 견딜 수 있는, 계산 효율적인 fine-tuning 단계 완화 기법을 설계할 수 있을까? 서비스 운영이 가능한 비용 안에서, harmful fine-tuning에 덜 무너지게 만들 수 있는가에 대한 주제를 다룬 논문이다.안전정렬이 생각보다 매우 깨지기 쉬운 성질로 다뤄진다는 부분이다. 보통 직관적으로는 “한 번 alignment를 잘 해두면, 이후 fine-tuning에서도 어느 정도 유지되지 않을까”라고 생각하기 쉽다. 그런데 이 논문은 오히려 반대로, 사용자 데이터에 harmful sample이 조금만 섞여도 alignment가 쉽게 무너질 수 있다는 점을 전제로 깔고 있다. 특히 fine-tuning accuracy는 멀쩡한데.. 2026. 4. 24.
State-Dependent Safety Failures in Multi-Turn Language Model Interaction. STAR LLM이 어떻게 상태(state)를 따라 이동하면서 결국 안전 경계를 넘는지를 설명하는 구조적 연구논문을 리뷰한다. AI를 더 안전하게 만들려면 단순히 나쁜 말(?) 필터링을 넘어서 이런 '대화의 흐름' 자체를 감시하는 기술이 왜 중요한지 생각해 보게된다.STAR = State-oriented role-playing frameworkhttps://arxiv.org/abs/2603.15684STAR 프레임워크가 어떻게 “대화 상태(state)”를 조작하고, 결국 안전성 붕괴로 이어지는지를 전체 파이프라인 관점에서 설명한다. 단순한 공격 방법이 아니라, LLM의 안전성이 시간에 따라 어떻게 변하는지를 추적하는 구조를 시각화한 것이다.STAR는 단순한 공격 도구가 아니라, 모델의 내부 상태가 어떻게 안전 영역.. 2026. 4. 18.
[에이전틱메모리]Hello Again! LLM-powered Personalized Agent for Long-term Dialogue 장기 대화를 위해 이벤트 기억 + 페르소나를 통합적으로 관리하는 모듈형 LLM 에이전트 구조(LD-Agent)를 제안한 논문이다.이벤트에 대한 기억을 어떻게 다루었는지 궁금해서 해당 논문의 아이디어를 리뷰해본다. 내가 작업했던것과 시작은 동일하나 풀고 싶었던것과 접근방식은 차이가 있는데 해당논문은 LD-Agent는 잘 기억하는 구조 라면 메멘토는 언제 기억을 써야 하는지 결정하는 구조에 조금더 가깝다. https://aclanthology.org/2025.naacl-long.272.pdf대규모 언어모델(LLM)의 발전으로 오픈 도메인 대화 시스템은 눈에 띄는 성능 향상을 이루었다. 그러나 대부분의 기존 시스템은 여전히 짧은 단일 세션 대화에 초점을 맞추고 있으며, 실제 환경에서 요구되는 **장기적 관계 .. 2026. 4. 12.
[에이전틱메모리]Dynamic Affective Memory Management for Personalized LLM Agents 이 논문은 "memory를 어떻게 저장할 것인가"를 넘어서 "어떻게 업데이트하고 잊을 것인가"에 대한 논문이다. 본 논문은 기존 RAG 기반 메모리 구조의 한계(정적 저장, 중복, 모순)를 지적하고, 동적으로 진화하는 감정 기반 memory 시스템(DAM-LLM)을 제안한다. 특히 memory를 단순한 fact 저장이 아니라 확률적 belief + entropy 최소화 문제로 재정의한 점이 핵심이다.나는 이미 멀티 에이전틱 메모리 기반 시스템을 실제로 구현하고 서비스까지 경험했기 때문에, 이 논문은 단순 이론이 아니라 실제 시스템에서 반드시 부딪히는 문제(메모리 팽창, stale, 모순)를 정확히 짚고 있다는 점에서 의미가 크다. 다만, 여전히 “언제 memory를 사용할지 (policy)”에 대한 정의.. 2026. 4. 12.
[에이전틱메모리]Memoria: A Scalable Agentic Memory Framework for Personalized Conversational AI 개인화AI관점에서 어떤정보를 어떻게 활용하기 위해서 어떻게 저장하고, 언제 개인화에이전트가 이 컨텍스트를 잘 참고하게 하면 좋을까?개인화 AI를 만들다 보면, 결국 메모리라는 문제에 계속 부딪히게 된다. 어떤 정보를, 어떻게 활용하기 위해 저장하고, 언제 그 맥락을 꺼내 쓰게 할 것인가.단순히 많이 기억하는 것은 답이 아니다. 오히려 잘못된 타이밍에, 덜 중요한 정보가 끼어드는 순간 에이전트는 더 그럴듯하게 틀리기 시작한다. 그래서 개인화 메모리는 저장소가 아니라 설계의 문제다. Selection, Timing, Relevance, Grounding.무엇을 남길 것인지,언제 꺼낼 것인지,지금 이 질문과 얼마나 맞닿아 있는지,그리고 그 기억이 실제로 추론의 근거가 되는지.개인화 에이전트를 만든다는 것은 결.. 2026. 4. 12.
CPU 성능 구조(CPI, Pipelining)와 ISA 설계(RISC/CISC) CPU의 성능을 이해하기 위해서는 명령어 실행 시간과 이를 구성하는 핵심 요소들을 먼저 이해해야 한다. CPU 성능은 단순히 클럭 속도만으로 결정되는 것이 아니라 Instruction Count, CPI, Clock Cycle Time의 관계로 결정된다. 특히 CPI(Cycles Per Instruction)는 명령어 하나를 실행하는 데 필요한 평균 클럭 사이클 수를 의미하며, CPU 성능을 평가하는 중요한 지표이다. 따라서 CPU 설계에서는 CPI를 낮추기 위한 다양한 구조적 기법들이 등장하며, 그 대표적인 예가*파이프라이닝과 해저드 해결 기법, 그리고 명령어 구조(RISC, CISC)이다.1. CPI와 CPU 성능의 관계CPI는 명령어 하나를 실행하는 데 평균적으로 몇 개의 클럭 사이클이 필요한지를 .. 2026. 3. 17.
의료인공지능 첫수업. 의료는 내 도메인이 아니다. 그래서 의료분야는 어떤 주제의 연구와 현실세계의 갭은 어떨지 궁금했다.오늘 의료 인공지능 첫 수업을 들었는데 생각보다 훨씬 흥미롭고 철학적인 지점이 많아서 놀랐다. 보통 헬스케어 데이터라고 하면 병원 기록만 생각하기 쉬운데, 사실은 우리가 자고 걷고 숨쉬는 모든 '라이프로그'가 다 포함되는 거였다. 그런데 이 데이터라는 게 참 고약한 게, 정해진 형식도 없고 노이즈가 너무 심해서 단순히 전처리 좀 한다고 해결될 수준이 아니라는 거다. 결국 기계학습도 통계의 근본으로 돌아가서 이 엉망인 데이터 모델을 어떻게 최적화하느냐가 관건인데, 최신 모델만 가져다 쓴다고 능사가 아니라는 점이 와닿았다.특히 인상적이었던 건 오토인코더(Autoencoder). 인풋을 압축했다가 다시 복원하는 .. 2026. 3. 10.
Bridging Information Gaps with Comprehensive Answers: Improving the Diversity and Informativeness of Follow-Up Questions 내가 연구하고 있는 주제와 목적은 유사한 논문이다. 작년2월에 나온 논문이다. 지금 연구하고있는것과 유사하여 리뷰하고자 한다.간략하게 먼저 정리를 하자면 이 논문의 핵심은 Information Gap을 명시적으로 모델링한다에 있다. 모델링함에 있어 사용한 방식은 Data augmentation + Distillation 이다.효과적인 대화 시스템은 대화 흐름을 유지하면서 새로운 정보를 이끌어내기 위해 맥락에 맞는 후속 질문을 동적으로 생성할 수 있어야 한다. 인간은 이미 얻은 정보와 아직 부족한 정보를 직관적으로 평가하면서 다양하고 정보량이 높은 질문을 잘 생성하지만, 기존 모델들은 이러한 능력에서 인간 수준에 미치지 못한다.이를 개선하기 위해 본 논문은 LLM이 생성한 가상의 “포괄적(comprehen.. 2026. 3. 8.
[인공지능보안]모델이 커질수록 왜 프라이버시는 더 위험해질까 - Scaling Law, Differential Privacy 스케일링 법칙은 “모델 크기와 데이터가 증가하면 성능이 예측 가능한 형태로 개선된다”는 경험적 규칙을 말한다.그러나 실제 배포 환경에서는 성능의 확장이 곧 안전성의 확장을 의미하지 않는다. 오히려 능력이 증가할수록 새로운 실패 모드가 출현하고, 그 결과 위험 구조가 재편된다. 따라서 스케일링 법칙과 위험 스케일링(risk scaling)의 관계를 이론적으로 이해하는 것은, 고성능 LLM을 설계·운영하는 데 필수라고 생각한다.스케일링 법칙은 모델의 크기와 데이터, 연산량이 증가할수록 성능이 예측 가능한 형태로 향상된다는 경험적 관찰이다. 실제로 대형 언어모델은 파라미터 수가 증가함에 따라 추론 능력, 문맥 이해력, 조합적 생성 능력 등이 급격히 향상되는 모습을 보여왔다. 그러나 성능의 확장이 곧 안전성의 .. 2026. 3. 7.
[컴퓨터구조]캐시의 associativity는 어떤 의미이며, associativity와 캐시 적중률의 관계 캐시associativity 연관도란 하나의 메모리 블록이 캐시 내부에서 저장될 수 있는 후보 위치의 개수를 의미한다. 캐시는 일반적으로 여러 개의 Set으로 구성되며, 각 Set 안에는 하나 이상의 저장 공간(Way)이 존재한다. 메모리 주소의 일부 비트(Index)가 특정 Set을 결정하고, 그 Set 안에서 실제 저장 위치를 선택하게 된다. 이때 한 Set 안에 존재하는 Way의 개수가 바로 연관도이다.캐시의 associativity를 이해하려면 먼저 “메모리 블록”이라는 개념과, 왜 특정 주소가 특정 Set으로 강제 매핑되는지를 이해해야 한다.먼저 메모리 블록(memory block 또는 cache line)이 무엇인지부터 정리해야 한다. 메모리는 바이트 단위로 구성되어 있지만, 캐시는 바이트 단.. 2026. 3. 2.
Google × Shopify 이후, 한국 이커머스는 어디로 갈까? 팀에 10분정도로 휘리릭 정리해서 공유를 했다. AI 에이전트 기반 상거래(Agentic Commerce) 시대에 등장한 두 개의 주요 프로토콜, ACP와 UCP 의 정의·기술적 특성 현황을 정리 해보려고한다.AI 에이전트가 사람을 대신해 상품 검색·비교·구매할 수 있는 시대(Agentic Commerce) 가 도래하면서, 기계 간 상거래 표준 필요성이 커졌다. 이 시점에서 여러 표준이 등장했지만, 대표적인 두 축이 ACP 와 UCP 이다. ACP는 OpenAI와 Stripe가 공동 개발한 오픈 소스 표준으로, AI 에이전트가 사용자 의도를 파악해 즉시 결제까지 처리할 수 있도록 되었다. Apache 2.0 라이선스 기반으로 공개되어 있으며, 누구나 구현·참여할 수 있다. ACP는 2025년 9월 말, .. 2026. 2. 14.
Agentic Reasoning for Large Language Models Agentic Reasoning for Large Language Models는 대규모 언어 모델(LLM)이 단순히 텍스트를 생성하는 수준을 넘어, 스스로 계획을 세우고 도구를 사용하며 문제를 해결하는 '에이전트적 추론(Agentic Reasoning)'에 대해 포괄적으로 다룬 서베이 논문이다.에이전트적 추론(Agentic Reasoning)이란?에이전트적 추론은 LLM이 능동적인 에이전트로서 동작하며 복잡한 문제를 해결하기 위해 스스로 생각하고 행동하는 과정을 의미한다. 여기에는 계획 수립, 도구 활용, 자기 성찰(Self-reflection) 등이 포함된다.이 서베이논문에서는 에이전트적 추론을 가능하게 하는 핵심 요소들을 분류한다.계획 수립(Planning): 작업을 더 작은 단계로 나누고 실행 순서.. 2026. 2. 7.
kcc 2026 한국컴퓨터종합학술대회 졸업논문을 kcc에 제출하려고 한다. kcc 2026준비까지 정리해보기로.... ^^+) 다녀온후기 https://rhr0916.tistory.com/m/454 kcc2026 학술대회 후기 - 우수상수상 그리고 우수논문 초청 정보과학회논문지 투고 준비제주도에서 열린 2박3일 학술대회에 다녀왔다. 심사용 페이퍼와 제출용 페이퍼가 별도로 필요하다. 제출용페이퍼에는 저자와 사사정보 정도 업데이트 할수있는 형태로 미리 준비해두는것이 좋rhr0916.tistory.comhttps://www.kiise.or.kr/academy/board/headeventList.fa?MENU_ID=040200#KCC 한국정보과학회2026 International Conference on Big Data and Smart Compu.. 2026. 2. 1.
커서 저는 이렇게 쓰고 있어요 팀에 커서 어떻게 쓰고 있는지 공유할겸 정리하다가 블로그로 옮겨야겠다 싶어서 옮겨본다. (커부심이 있었던거 같긴한데 ㅋㅋㅋㅋㅋ)AgentsAgents는 Chat에 동작하는 Agent에 대한 기본값들인데요. https://cursor.com/ko/docs/agent/overview#agent저는 주로 Auto로 씁니다.공식적으로 Cursor가 이것을 MOE라고 명시적으로 표현하지는 않지만, 구성 요소 설명을 보면 모델 선택 자동화/스킬 결합된 형태라 MOE라고 생각해도 무방하다 생각해요.(저의 이해방식)여기서 Auto mode는 명시된 모델이 없을 때 자동 선택/라운딩을 수행한다고 써있어요.https://cursor.com/ko/docs/modelsRules, Skills, SubagentsRule: 절대.. 2026. 1. 30.
agentic-patterns.com - Memory 올해 비즈에서 검토해볼부분만 정리와 회고를 좀 해보려고 한다.컨텍스트에 좋은 데이터만 잘 전달하는 고민은 참 흥미있는 주제이다.단순한 히스토리도 + 현재와 이어지는 주제 + 변하지 않는 고유한 정보를 잘 컨텍스트에 전달하면개인화가 어디까지 가능한가불필요한 정보를 제거했을때 모델의 이해도가 얼마나 높아지는가컨텍스트 토큰 낭비위 3가지들을 측정한다는것은 흥미로운 주제라고 생각한다. (현재는 서비스에 몸담고 있지 않아서 실증적인 연구는 못하고 있지만 다시 한번 파고들어볼 법한 주제이다. AIMATE-Context Memory)내가 메모리를 작업할때 멀티턴 그리고 그룹에서의 대화가 많은 경우를 감안해서 디자인했는데 최소화 하는 패턴에 대한 비율을 조금 줄이는 고민을 충분히 하지 못했다. 최근 히스토리 매직넘버?.. 2026. 1. 11.
대화 히스토리를 기반으로 이미 확보된 정보와 남은 불확실성을 구분하고,fallback 상황에서 정보 획득을 극대화하는 질문 정책을 학습할 수 있는가? "명시적인 상태 추적(DST) 모듈 없이, Decoder-only 모델이 대화 히스토리만을 보고 정보 공백을 파악하여 최적의 질문 정책을 세울 수 있는가?" 챗봇언어엔진과 에이전트 시스템을 개발해오면서 NLP에 변화와 챌린지를 몸소 느끼고 있다. 대학원 졸업 논문을 진행중이고 거의 마무리가 되어간다. 회고처럼 작성해보자:)https://rhr0916.tistory.com/386 Task-Oriented Dialogue 시스템에서 Follow-up 질문 생성 실험 정리 (Day 3~4)멀티턴 대화 환경에서 follow-up question이 실제로 필요한지를 판단하고, 그에 맞는 적절한 질문을 생성하도록 모델을 학습시키는 실험을 진행하고 있다. 실험의 핵심 목표는 단순히 질문을 생성하rhr0916.tist.. 2026. 1. 4.
클러스터링=파티셔닝, 계층적, 메도이드, BIRCH의 구조와 한계 클러스터링이란 무엇인가클러스터링은 라벨이 제공되지 않은 데이터에서 유사한 패턴을 가진 데이터들을 자동으로 묶어내는 비지도 학습 기법이다.이 과정의 핵심은 “데이터가 어떤 기준으로 서로 비슷한가?”에 대한 정의이며, 이 기준은 알고리즘마다 다르다(거리, 밀도, 확률 등).산업에서의 실제 의미추천 시스템에서 고객 세그멘테이션이상 탐지에서 정상 군집과 비정상 군집 분리마케팅 타깃 그룹 정의문서/FAQ 자동 군집화 (RAG 전처리 단계)이미지 임베딩 기반 시각적 유사도 그룹화즉, “도메인이 복잡해 라벨링이 불가능한 환경”에서 반드시 필요한 분석 방법이다.클러스터링 접근 철학(Philosophy)데이터의 내재적 구조는 사람이 모른다.알고리즘은 ‘비슷한 것의 모임’을 정의하는 방식이 전부 다르다.그래서 클러스터링을.. 2025. 12. 14.
Classification – Decision Tree, GINI, Entropy, Impurity, Gain Ratio “정보를 더 많이 얻는다”결정트리에서 정보(information) 라고 부르는 건 철학적인 “지식”이 아니라, 레이블에 대한 불확실성(uncertainty) 이 얼마나 줄어드는가를 말한다.어떤 고객이 Defaulted = Yes/No 인지 우리가 얼마나 모르는 상태인지그 “모름”의 양을 수치로 표현한 것이 엔트로피(Entropy) 나 지니(Gini) 같은 불순도(impurity) 이고어떤 속성으로 split 했을 때split 전 불순도 − split 후 불순도즉, 불확실성이 얼마나 줄어들었는가가 정보 이득(Information Gain) 이다.그래서“정보를 더 많이 얻는다” = “레이블에 대한 불확실성이 더 많이 줄어든다”즉, split 이후에 “이 노드에 들어온 애들은 거의 다 Yes야” 혹은 “거의 .. 2025. 12. 14.
데이터를 해석하고 결정을 내리는 알고리즘: Classification의 개념, 방법론, 그리고 분할 기준 Classification이란?Classification은 입력 데이터 x의 속성(attributes)을 이용해 미리 정의된 class label y 중 하나를 예측하는 지도학습(supervised learning) 문제다.왜 Classification이 중요한가?현실 세계의 대부분의 의사결정은 범주(category)를 예측하는 형태로 나타나기 때문이다. 실무 예시는 다음과 같다.실제 기업 활용 예고객 이탈 예측: Churn vs Retain리뷰 감성 예측: Positive / Neutral / Negative의학 진단: 정상 / 비정상이메일 분류: Spam / Promotion / Work-related기계 고장 예측: Normal / Maintenance Needed / Urgent Repair결국 .. 2025. 12. 13.
반응형

티스토리툴바