2025년 11월 7일 영남공업고등학교 AWS AI 서비스 개발 해커톤에서 Working Backwards 세션을 진행했습니다. AI 프로젝트는 “질문하면 답한다”, “이미지를 분류한다”, “추천을 제공한다”처럼 model 기능으로 설명되기 쉽습니다.
이번 사례에서는 model output이 아니라 그 결과를 받은 사람이 다음에 무엇을 하는가를 먼저 정했습니다.
AI 기능을 사용자 결정 문장으로 다시 썼다
“AI가 진로를 추천한다”는 문장만으로는 필요한 data와 안전 경계를 정하기 어렵습니다. 학생인지 교사인지, 한 번의 추천이 탐색을 시작하게 하는지 최종 선택을 대신하는지에 따라 전혀 다른 제품이 됩니다.
팀은 다음 형식으로 문장을 바꿨습니다.
사용자가 어떤 상황을 입력한다
→ AI가 어떤 근거를 가진 결과를 보여 준다
→ 사용자는 결과를 보고 어떤 낮은 위험의 행동을 한다마지막 행동이 정해지면 model이 확정적으로 말해도 되는 범위와 사람이 다시 확인해야 하는 범위가 보였습니다.
데모에는 입력·근거·결정과 실패 경로를 넣었다
AI demo는 좋은 예시 하나를 보여 주는 것으로 끝나기 쉽습니다. 이번에는 정상 경로와 함께 결과를 만들 수 없는 경로를 설계했습니다.
- 입력이 부족하면 무엇을 추가로 요청하는가
- confidence가 낮으면 어떻게 표시하는가
- 추천 근거를 사용자가 확인할 수 있는가
- 유해하거나 위험한 요청은 어디서 멈추는가
- 결과를 그대로 실행하지 않고 누구에게 넘기는가
이 항목은 발표용 edge case가 아니라 첫 version의 제품 경계였습니다. model accuracy가 높아도 실패했을 때 사용자가 다음 행동을 알 수 없다면 서비스 흐름은 완성되지 않습니다.
FAQ로 구현하지 않을 자동화를 정했다
제한된 시간에 안전한 AI 제품 전체를 만들 수는 없습니다. FAQ에서는 특히 “AI가 대신 결정하면 안 되는 것”을 적었습니다. 진로, 건강, 금전, 안전처럼 영향이 큰 선택은 정보 탐색과 질문 정리까지만 돕고, 최종 판단은 사람에게 남기는 방식입니다.
이 경계는 기능을 약하게 만드는 것이 아니었습니다. 첫 데모가 실제로 책임질 수 있는 약속을 명확히 했습니다. 근거 없는 확신 대신 선택지를 비교하거나 추가 질문을 만드는 기능이 핵심이 될 수 있었습니다.
발표는 model 소개보다 사용자의 before와 after를 보여 줬다
발표는 사용자가 이전에 하던 행동, AI가 제공한 정보와 근거, 이후 달라진 행동, 아직 사람이 확인할 사항 순서로 구성했습니다. model과 cloud architecture는 그 흐름을 가능하게 한 책임으로 설명했습니다.
영남공고 사례에서 Working Backwards는 “어떤 AI를 쓸 것인가”보다 “AI가 어디까지 돕고 어디서 멈출 것인가”를 먼저 결정하게 했습니다. 제품의 차이는 model output 자체보다 결과 이후의 사용자 행동과 실패 시의 안전한 다음 단계에서 드러났습니다.
댓글