2025년 4월 23일 세미나(Carolyn Rosé 교수님)

Carolyn Rosé 교수님의 세미나 ‘Human-AI Teams: Modeling and Supporting Social Processes with LLMs’에 다녀왔습니다!

 2025년 4월 23일, 서울대학교에서 열린 IPAI Distinguished Seminar에서는 카네기멜론대학교의 Carolyn Rosé 교수님이 ‘Human-AI Teams: Modeling and Supporting Social Processes with LLMs’를 주제로 강연을 진행했습니다. 이번 세미나는 인간과 AI가 협력하는 방식이 실제 교육이나 공동 작업 환경에서 어떻게 설계되고 작동할 수 있는지를 다양한 연구 사례와 함께 풀어낸 시간이었습니다. 특히 생성형 AI(GenAI)와 대형 언어 모델(LLMs)의 활용이 학습과 협업에 어떤 가능성과 한계를 가지고 있는지를 중심으로 이야기가 펼쳐졌습니다.

 Rosé 교수님은 강연에서 인간과 AI의 상호작용을 어떻게 이해할 수 있을지에 대한 질문으로 시작하셨습니다. AI를 진짜 사람처럼 여기지는 않지만, 상호작용 상황에서는 종종 사람처럼 대하게 된다고 하셨어요. 다만, 중요한 건 현재의 LLM은 사고하거나 추론하는 존재라기보다는, 데이터를 바탕으로 **생성(generating)**하는 데 초점을 둔 도구라는 점이었습니다. 예를 들어 멀티모달 문서를 분석하거나, 코드 언어를 번역하거나, 직조 패턴을 설계하는 등의 작업에서는 추상적 사고보다는 반복 생성이 더 중요한 요소인데요. 이런 분야에서 AI는 꽤 유용하게 활용될 수 있다고 하셨습니다 💡

 이어서 소개된 내용은 Rosé 교수님이 지난 15년 동안 축적해온 인간 중심 AI 설계 원칙에 관한 것이었습니다. 다양한 학습 환경에서 실제로 실험하고 검증된 설계 전략들이 소개되었는데요, 특히 학습자가 AI와의 상호작용에서 자율성을 갖는 구조가 효과적이라는 점이 강조되었습니다. AI가 단순히 정보를 제공하는 존재를 넘어서, 사회적 전략이 반영된 설계일수록 상호작용의 질이 높아졌다고 합니다. 예컨대 베이지안 사회 전략(Bayesian social strategies)을 활용한 에이전트는 그렇지 않은 경우보다 훨씬 긍정적인 반응을 얻을 수 있었다고 해요. 이러한 연구 결과는 AI가 학습자와의 사회적 맥락 안에서 작동해야 한다는 점을 분명히 보여줬습니다 🧠

 기술이 아무리 발전해도, 완벽하다고 말할 수는 없겠죠. Rosé 교수님은 최근 수업 연구에서 LLM이 실제로 가진 한계점들을 솔직하게 공유하셨습니다. 예를 들어, 문제 해결 도중 AI가 던진 프롬프트가 오히려 학생의 몰입을 방해하는 경우도 있었고, 때때로 학생이 스스로 도출한 답변이 AI가 제안한 것보다 훨씬 나았던 사례도 있었다고 합니다. 이처럼 AI는 여전히 학습자의 맥락을 깊이 이해하거나, 고유한 사고 흐름을 정확히 따라가지 못할 때가 많은데요. 결국 중요한 건 기술 그 자체보다, 어떻게 활용하고 설계하느냐라는 점이었습니다.

 세미나의 말미에는 앞으로 인간과 AI가 어떻게 ‘공진화(co-evolution)’해 나갈 수 있을지에 대한 전망이 공유되었습니다. Rosé 교수님은 AI가 교육이나 협업을 혁신할 수 있는 도구이긴 하지만, 그 자체가 목적이 되어서는 안 된다고 말씀하셨어요. 우리가 주도적으로 사고하고 협력할 수 있도록 돕는 존재로서 AI를 설계하는 것, 그 과정 속에서 인간 간의 관계성과 협력이 여전히 중심이 되어야 한다는 메시지가 특히 인상 깊었습니다. 앞으로 AI를 설계할 때도 인간의 사회적 상호작용과 인지적 역량을 고려하는 방향이 중요해질 것 같다는 생각이 들었어요. 🌱

 이번 강연은 단순한 기술 소개가 아니라, 교육과 협업이라는 실천적 맥락 속에서 AI를 어떻게 잘 써야 할지에 대한 깊이 있는 통찰을 나눠주는 시간이었습니다. 기술의 한계를 인정하면서도, 인간 중심의 설계를 통해 그것을 넘어설 수 있다는 점을 강조하신 Rosé 교수님의 시선은 앞으로 우리가 교육과 연구에서 AI를 다룰 때 꼭 기억해야 할 방향이 아닐까 싶습니다. 기술에 대한 무조건적 기대보다는, 사람과 함께 설계하는 AI가 진짜 가치 있는 교육 도구가 된다는 사실을 다시금 배울 수 있었던 세미나였습니다 🤝