News

It was chosen as one of 37 winning questions out of 2,143 submitted across SNU.

The question (English)

Intelligence has long been defined as the ability to achieve a given goal. Today's AI is a machine that solves the goals people hand to it: AlphaGo is given winning, and a language model is given human preference. Give it a goal and it performs remarkably, but it cannot decide for itself what to pursue.

A newborn, however, explores the world without anyone's instruction. Driven by curiosity and surprise, it drops things and puts them in its mouth, and along the way it learns physical laws and causality on its own. No one told it where to head. In that place there are only internal signals: curiosity and anxiety, satisfaction and attachment. Emotion is not noise that clouds action; it is the device that sets a direction when information is lacking.

Then should an AI that sets its own goals also have internal signals grounded in emotion? This is not a proposal to imitate emotion. It asks whether internal signals are truly necessary for the self-determination of intelligence. Answering it requires first uncovering what emotion does in learning, so it will need engineering, psychology, and neuroscience together. For a machine that decides for itself where to move, safety and responsibility must also be rethought from the structure of the motivation that sets its purposes, not from performance. Building more efficient AI matters, but to imagine the next generation of artificial intelligence we first need to know whether an intelligence that sets its own goals truly needs emotion.

원문 (한국어)

지능이란 주어진 목표를 달성하는 능력이라는 것이 오랜 전제였다. 지금의 AI는 사람이 정해 준 목표를 잘 푸는 기계다. 알파고에게는 승패가, 언어 모델에게는 사람의 선호가 목표로 주어진다. 목표만 쥐여 주면 놀라운 성능을 내지만, 무엇을 추구할지는 스스로 정하지 못한다.

그러나 갓난아이는 누구의 지시도 없이 세상을 탐험한다. 호기심과 놀라움에 이끌려 물건을 떨어뜨려 보고 입에 넣어 보며, 그러는 사이 물리 법칙과 인과를 스스로 익힌다. 무엇을 향할지 정해 준 사람은 없다. 그 자리에는 호기심과 불안, 만족과 애착 같은 내적 신호가 있을 뿐이다. 감정은 행동을 흐리는 잡음이 아니라, 정보가 모자란 상황에서 방향을 정해 주는 장치인 셈이다.

그렇다면 스스로 목표를 세우는 AI에도 감정에 기반한 내적 신호가 있어야 할까? 감정을 흉내 내자는 것이 아니라 지능의 자기 결정에 내적 신호가 정말 필요한지를 묻는 것이다. 이 질문에 답하려면 감정이 학습에서 무엇을 하는지부터 밝혀야 하기 때문에 공학과 심리학, 신경과학이 모두 필요할 것이다. 무엇을 향해 움직일지 스스로 정하는 기계라면, 그 안전과 책임도 성능이 아니라 목적을 설정하는 동기의 구조에서부터 다시 생각해야 한다. 더 효율적인 AI를 만드는 것도 중요하지만, 인공지능의 다음 세대를 상상하려면 스스로 목표를 정하는 지능에 감정이 꼭 필요한지를 먼저 알아야 한다.

Why it matters to me

I see this question as closely tied to self-improving AI. An agent that keeps improving itself must eventually decide what to pursue next, and that choice cannot come from a hand-given objective alone. It needs an intrinsic signal that sets direction when no external goal is available, which is exactly the role emotion seems to play in us.