두 번째 프로젝트: 소개팅 연락 평가 (2편) - 개발자, 돈 계산은 하셨나요?

지난 1편에서 저희는 '이거다!' 싶은 아이디어를 발견한 설렘과, 동시에 서로 다른 설계도로 첫 삽부터 어긋나는 좌절을 맛봤습니다. 하지만 저희는 이 아이디어를 포기할 수 없었습니다. 그 엄청난 잠재력을 눈으로 직접 확인했으니까요.

그래서 저희는 '우리만의 2차 해커톤'을 약속했습니다. 흩어진 생각을 하나로 모으고, 진짜 '될 만한' 서비스를 만들기 위한 두 번째 밤샘의 시작이었습니다. 그리고 이번에 저희가 마주한 것은, 개발자들이 가장 흔하게 저지르지만, 가장 치명적인 '실수'였습니다.

첫 번째 경고: "예상보다 너무 비싼데요?"

2차 해커톤의 목표는 명확했습니다. 1편에서 각자 구상했던 기능들의 프로토타입을 빠르게 만들어보고, 최적의 사용자 경험을 찾는 것이었죠. 신나게 코드를 짜고, 저희의 대화를 넣어가며 테스트를 반복했습니다. 결과는 여전히 재미있었고, 저희는 잠시 성공에 취해있었습니다.

그때, 등골이 오싹해지는 경험을 하게 됩니다. 혹시나 하는 마음에 확인해 본 AI API 사용량 대시보드. 숫자는 저희의 예상을 아득히 뛰어넘고 있었습니다. 마치 연비는 생각도 안 하고 최고 속도로만 달리는 슈퍼카를 만든 기분이었습니다.

원인은 명확했습니다. 채팅이라는 서비스의 특성 때문이었습니다.

사용자가 메시지를 하나 추가할 때마다, 저희는 전체 대화의 맥락(Context)을 유지하기 위해 이전 대화 내용을 전부 AI에게 보내야 했습니다. 즉, 대화가 10줄일 때와 50줄일 때의 토큰 소모량은 단순히 5배가 아니라 기하급수적으로 늘어났습니다. 수익은 0인데, 사용자가 서비스를 즐길수록 저희는 파산에 가까워지는 구조였죠.

두 번째 문제: 똑똑함을 넘어 로봇이 된 AI

비용 문제에 더해, 저희는 AI의 답변 품질에서도 이상한 점을 발견했습니다. 분명 똑똑하게 대답은 하는데, 어딘가 모르게 '영혼이 없는' 느낌이었습니다. 몇 번을 테스트해도 비슷한 패턴의 정형화된 답변만 내놓았죠.

원인은 과유불급, 너무 상세했던 시스템 프롬프트에 있었습니다. 저희는 AI에게 최고의 연애 컨설턴트 역할을 맡기기 위해, 수많은 예시와 지시사항, 규칙들을 빼곡하게 프롬프트에 채워 넣었습니다.

그 결과, AI는 저희가 정해준 가이드라인을 너무나 충실히 따른 나머지, 스스로 창의적인 생각을 할 여지를 잃어버렸습니다. 저희가 작성한 행동 외에는 아예 다른 행동을 취하지 않는, 다양성이 완전히 배제된 '과적합(Overfitting)' 상태에 빠진 것입니다. 유연한 컨설턴트가 아니라, 정해진 말만 하는 딱딱한 로봇을 만든 셈이었습니다.

생존을 위한 개선 작업

두 번째 밤샘의 남은 시간은 이 두 가지 문제를 해결하는 데 온전히 바쳐졌습니다. '재미'를 넘어 '생존' 가능한 서비스를 만들기 위한 사투였죠.

비용 문제 해결 (토큰 다이어트):
- 채팅 개수 제한: 가장 먼저, 무한정 길어지는 대화를 막기로 했습니다. 사용자가 입력할 수 있는 메시지의 총 개수나 글자 수에 제한을 두는 것은, 서비스의 명운이 걸린 어쩔 수 없는 선택이었습니다.
- 수익 모델 구상: 비용 절감만으로는 답이 없었습니다. 저희는 밤새 머리를 맞대고 광고 모델에 대해 논의했습니다. 간단한 결과는 무료로 보여주되, '상세 분석 리포트'를 보기 위해서는 광고를 시청하게 하는 방식 등을 구체적으로 그리기 시작했습니다.
프롬프트 문제 해결 (AI 조련하기):
- 시스템 프롬프트 간소화: 불필요한 예시와 중복되는 지시사항을 과감하게 쳐냈습니다. AI의 기본 능력을 믿고, 핵심적인 역할과 톤앤매너만 남겨 프롬프트의 '군살'을 뺐습니다. 이것만으로도 호출당 토큰 비용을 크게 절감할 수 있었습니다.
- 다양성 확보: '이렇게 해!'라는 직접적인 명령 대신, '이런 관점에서 창의적으로 분석해 줘' 와 같이 AI에게 약간의 자율성을 부여하는 방식으로 프롬프트를 수정했습니다. 규칙의 감옥에 갇혀있던 AI에게 숨 쉴 공간을 만들어주자, 비로소 재치 있고 다양한 답변들이 다시 나오기 시작했습니다.

그리고, 예상치 못했던 바이럴

두 번째 밤샘으로 얻은 단단한 청사진을 바탕으로, 저희는 핵심 기능만 담은 테스트 버전을 만들어 아주 가까운 친구 몇 명에게만 링크를 공유했습니다. 그저 가벼운 마음으로 피드백이나 받아보자는 생각이었죠.

그런데 결과는 저희의 상상을 완전히 벗어났습니다.

링크는 친구의 친구에게로, 단톡방에서 다른 단톡방으로 퍼져나가며 저희가 의도하지 않은 작은 '바이럴'을 만들어냈습니다. 휴대폰이 쉴 새 없이 울렸습니다. "이거 진짜 대박이다", "내 대화도 돌려보고 싶어, 언제 제대로 나와?" 와 같은 폭발적인 반응과 함께, 저희가 미처 생각지 못했던 개선 아이디어와 버그 리포트 등 애정 어린 피드백이 쏟아졌습니다.

저희는 이 뜨거운 반응을 외면할 수 없었습니다. 단순히 '계획대로 만들자'가 아니라, 이 피드백들을 반영해서 더 완벽하게 만들자는 새로운 목표 의식이 생긴 것입니다.

그렇게, 저희의 계획에는 없었던 예기치 않은 3차 해커톤이 결정되었습니다. 쏟아지는 피드백을 바탕으로 드디어 세상에 서비스를 내놓기 위한, 저희의 마지막 밤샘 기록이 3편에서 시작됩니다.