[Wavbridge X AI] EP2. AI가 불러온 ‘평균의 종말’ 스타트업이 AI와 일하는 법

편집자의 말: 지난 Episode 1에서 우리는, 매일 아침 8시 30분에 나가는 웨이브릿지 뉴스레터가 어떻게 AI 시스템 ‘LEX’로 재탄생했는지, 그리고 그 과정에서 어떤 시행착오와 배움을 겪었는지 이야기했습니다. 두 번째 기록에서는 조금 더 큰 질문으로 넘어가 보려 합니다.거대 테크 기업들이 만드는 AI와, 그것을 써야 하는 스타트업·팀은 어떤 역할 분담을 하게 될까요? 그리고 스타트업은 무엇부터, 어떻게 시작해야 할까요?

레베카 (인터뷰·제작·편집) × 에릭 (개발/프로젝트 리드)

1.LLM을 만드는 쪽과 잘 쓰는 쪽

레베카: 지난번 인터뷰 끝에, 이런 얘기를 잠깐 하셨어요. AI시대에 빅테크와 스타트업의 역할이 분명히 다르다는 점을 인지하고 접근해야 한다. 오늘은 그 얘기를 좀 더 해보면 좋겠습니다.

에릭: 네, LLM 자체를 연구하고 모델을 만드는 쪽과 그걸 ‘잘 써서’ 서비스를 만드는 쪽이 있다는 점을 알아야 하죠. LLM을 직접 연구하고 만드는 건 돈·시간·인력이 동시에 크게 들어가는 게임이거든요. 조금만 더 들어가서 이야기 하자면, LLM을 만들 때 GPU, 인력, 전기료도 비싸지만, 그보다 더 중요한 게 좋은 품질의 데이터예요.

레베카: 좋은 품질의 데이터는 어떤 의미인가요?

에릭: 말 그대로 학습시킬 만한 데이터죠. 편향된 커뮤니티 글이나, 특정인의 좁은 경험을 일반화한 기술 블로그 글들만 잔뜩 모아놓으면 왜곡된 모델이 나오게 되거든요. 그래서 요즘은 데이터를 수집·정제하고, 품질 관리만 전문적으로 하는 회사들도 있고요. 이런 것들을 감당하려면, 현금이 많고, 장기간 투자할 수 있고, 전 세계의 인재를 모을 수 있는 조직이 필요합니다. 그게 지금 빅테크들이 하고 있는 역할이고요.

레베카: 그러면 대부분의 회사, 특히 스타트업은 LLM을 잘 활용하는 쪽이 되겠네요. 

에릭: 네. 현실적으로는 “어떤 모델을 쓸 것인가”보다, “우리 일에 AI를 어떻게 녹여서, 실제로 더 빨리·더 적은 인원으로 같은(혹은 더 큰) 성과를 낼 것인가”가 중요하지요.

2.프라이빗 LLM, 정말 안전한가요?

레베카: 그럼 스타트업은 LLM을 비즈니스에 많이 활용하고, 데이터 분석에 활용하게 될텐데 궁금한 게 생기네요.  회사 내부 문서·코드를 AI에 붙이면, 밖으로 샐 수 있지 않을까요?

에릭: 자연스러운 걱정이라고 생각해요. 저도 처음엔 그랬고요.

레베카: 솔직히 말하면, 저는 통신부 기자 할 때 각종 보안·백도어 이슈를 너무 많이 들었어서, 새 기술이 나오면 일단 “어디로 새지?”부터 떠올라요. 그래서 LLM도 처음엔 그렇게 의심했거든요.

에릭: 그 감각은 되게 중요해요. 다만 오픈소스 LLM을 우리 인프라 안에 올려서 쓰는 구조를 조금 나눠 볼 필요가 있습니다.

• LLM 자체는 수치(파라미터)와 연산 구조의 덩어리예요.
• 마치 CPU가 혼자서 인터넷에 접속하지 못하듯이, 모델 파일 자체는 데이터를 “어디론가 전송하는 기능”을 내장하고 있지는 않습니다.
• 대신, 그 모델을 감싸고 있는 애플리케이션 코드, 서버 설정, 네트워크 구성이 어떻게 되어 있느냐에 따라 보안 리스크가 생겨요.

그래서 이렇게 정리하면 좋을 것 같아요. ‘온전히 우리 회사 인프라 안에서, 네트워크를 통제한 상태에서 오픈소스 LLM을 올려서 쓰면 원칙적으로 모델이 데이터를 외부로 보낼 ‘통로’는 없다. 다만, 그 위에 올라간 애플리케이션과 서버/네트워크 설정은 별도로 보안 점검을 해야 한다.’

3.인터넷, 모바일, 그리고 LLM이 가져온 “평균의 종말”

레베카: 1화에서도 비슷한 얘기를 하셨는데, “인터넷 → 모바일 → AI”로 이어지는 융합의 역사를 다시 한 번 짚어주실 수 있을까요?

에릭: 인터넷 이전에는, 대부분이 아날로그였죠. 인터넷이 깔리면서 정보가 디지털로 바뀌었고,음악, 출판, 사진, 영상이 전부 자기 영역에서만 놀던 시절이 있었죠. 그러다 전부 디지털 숫자로 바뀌면서, 하나의 기기(PC·스마트폰)가 다루는 대상이 되어버렸습니다. MP3 플레이어, 전자사전, 카메라, 녹음기, 게임기…이게 결국 스마트폰 하나로 다 묶였잖아요. “모두 숫자로 표현된 데이터”가 되니까, 컴퓨팅 관점에서는 전부 같은 대상이 된 거예요.

레베카: 그러니까, “디지타이즈 → 숫자화 → 융합”의 흐름이네요.

에릭: 맞아요. LLM은 이제 언어·이미지·사운드·코드 같은 것들의 “맥락”을 언어로 이해하는 수준까지 온 거고요. 이전의 컴퓨터는 0과 1, 색상 값, 좌표, 픽셀 정도만 알고, “이 사진의 주인공은 안경 쓴 사람이다”, “이 문장은 사과다/사과가 아니다” 같은 맥락은 이해 못 했어요.지금 LLM은 그 맥락을 어느 정도 표현하고, 조합하고, 변형할 수 있는 수준까지 온 겁니다. 그래서 인간이 언어로 하던 많은 작업들이 한 덩어리로 융합되기 시작했어요.

레베카: 그래서 개발자가 기획도 하고, 기획자가 어느 정도 구현도 하고… 그런 융합이 나오는 거군요.

에릭: 맞아요. 예전에는 “평균적인 수준의 개발자, 평균적인 플래너, 평균적인 라이팅”이 각각의 역할을 담당했다면,  이제는 평균적인 인텔리전스는 LLM이 맡을 수 있는 상황이에요.

여기서 중요한 게, 제가 표현을 좀 세게 하자면, “평균의 종말” 입니다.

평균적인 코드, 평균적인 기획, 평균적인 문서, 평균적인 리서치는  AI가 더 빠르고 싸게, 많이 만들어낼 수 있어요.  그럼 사람은 어디서 경쟁해야 할까요?

4. 인터넷 붐과 다른 점: 이미 인프라가 다 깔려 있다

레베카: 지금 AI 붐이 2000년대 초반의 인터넷 붐이랑 비슷하다는 이야기도 많이 하잖아요. 직접 써보신 입장에서, 체감은 어떤가요?

에릭: 저는 비슷한 점도 있지만, 굉장히 다른 점도 크다고 생각해요. 인터넷 초창기에는, 일단 인프라 깔리는 데만 해도 시간이 오래 걸렸어요. PC 보급, 초고속 인터넷, 브라우저, 이메일, 각종 서비스들을 깔아야 했죠. 수십년이 걸렸어요.

지금은 어떤가요? 사람마다 스마트폰을 하나씩 들고 있고, 네트워크는 기가급이고, 디스플레이 해상도도 상상을 초월하고, 클라우드 인프라도 이미 깔려 있죠. 이 상태에서 LLM 하나 붙이는 건, 정말로 “하루 만에 써볼 수 있는 일”이에요.

게다가 UI는 언어, 대화입니다. 말로 시키는 인터페이스라서, 배우는 허들이 굉장히 낮아요. 예를들어, UX 진입장벽이 높은 블록체인과도 비교가 되는 것 같아요. 12단어 시드 문구 외워야 하고, 키 관리 잘못하면 돈이 사라지기도 하고, 책임이 전부 개인에게 있죠.

AI는 반대로, “원래 하던 말 그대로 쓰면 된다”는 점에서 UX 혁신입니다. 이미 보급로가 다 깔려 있고, 사람들이 쓸 준비도 되어 있고, 인터페이스도 친숙해요. 그래서 저는,  AI의 침투 속도가 인터넷 때보다 훨씬 빠를 수밖에 없다고 봅니다.

5. “생각을 외주 주지 말자” – AI를 AGI처럼 대하는 실수

레베카: 사실 저도 요즘 AI를 많이 쓰는데, 제일 걱정되는 건 이거예요. “언제부턴가 내가 생각을 덜 하고 있는 게 아닌가?”

에릭: 실제로 조직에서 제일 많이 보는 실수가 그거예요. AI를 마치 이미 완성된 AGI처럼 대하는 거죠. 왜냐면 언어로 반응을 하니까, LLM을 인간으로 대하는 거죠. “니가 다 해줘.” “일단 한 번 써줘, 정답 가져와.”

문제가 여기서 발생합니다. 이렇게 되면 생각의 외주화가 일어납니다.

레베카: 그런데 대부분의 사람들은, 원래도 그렇게까지 깊게 검증해가며 쓰는 스타일이 아니니까… 더 위험해질 수 있겠네요.

에릭: 그래서 “생각을 외주 주지 말자.”는 어록을 자주 떠올려요.

지금의 AI는 잘 쪼개서 맡기면 엄청난 동료고, 몽땅 맡기면 엄청난 리스크입니다.

• 일을 아주 작은 단위로 쪼개서 주고,
• 중요한 판단과 검증은 사람이 책임져야 해요.
• 특히 “이게 우리 회사의 방향·서비스와 맞는지”는 사람이 AI를 통해 보장해 줘야 하는 부분입니다.

레베카: 개인·조직이 AI를 쓰면서 꼭 가져야 할 태도이기도 하겠네요.

에릭: 네, AI를 쓰면 코드를 치는 시간은 줄지만, AI와 커뮤니케이션하고, 결과를 검증하고, 방향을 조정하는 생각의 시간은 늘어납니다. 그걸 감당할 준비가 되어 있는 조직이 이길 거라고 생각해요.

6. 스타트업이 AI를 도입할 때의 기준 – “어떤 툴이냐”보다 “얼마나 써보냐”

레베카: 스타트업 분들이 자주 묻는 질문이 있어요. “도구가 너무 빨리 바뀌는데, 어떤 걸 골라야 하나요? 잘못 선택해서 시간·돈 낭비하면 어떡하죠?”

에릭: 조금 냉정하게 말하면,  “어떤 툴이 정답인가”를 오래 고민하는 시간이 오히려 제일 큰 낭비일 수 있어요.

저라면 기준을 이렇게 두겠습니다. 조직 전체가 같이 쓸 수 있는가 (협업에 필요한 최소 기능ㅡ공유, 히스토리, 권한)이 있는지, 충분히 많이 쓰이고 있는가 (어느 정도 검증된 생태계ㅡ문서, 사례, 플러그인)가 있는지, 한 번 익히면, 최소 1~2년은 계속 쓸 수 있을 것 같은가. 이 정도 기준 안에서 한두 개를 골라서, 조직적으로 “많이 써보는 것”이 더 중요해요.

레베카: “도입할 툴을 고민하는 시간 < 실제로 써보는 시간”이어야 한다는 말이군요.

에릭: 네. 주저하면서 안 쓰고 있는 비용이, 툴을 하나 골라서 써보다가 나중에 갈아탈 때 드는 비용보다 훨씬 클 수 있습니다.

7. AI-SEO: 이제 AI도 “우리 고객”이다

레베카: 제가 브랜딩·콘텐츠 쪽 일을 하니까 사람의 눈에만 잘 보이면 안 되고, AI의 눈(모델)에도 잘 보여야 한다는 생각을 해요.

에릭: 맞아요.  기존의 SEO는 “사람이 검색창에 넣을 키워드”를 기준으로 했죠. 앞으로는 “AI 에이전트가 이해하고 요약하기 좋은 구조·문맥”이 중요해집니다. 문서 구조가 얼마나 명확한지, 용어 정의가 일관적인지, 핵심 포인트가 기계가 뽑기 좋게 정리돼 있는지 등이요. 그래서 AI에 어떻게 호소할 것인가도 고민해야 해요. 

랜딩 페이지의 색, 사진, 카피도 여전히 중요하지만, AI가 읽을 수 있는 컨텍스트로 정보를 설계하는 것이 제품 기획 단계부터 고려되어야 한다고 봅니다. 즉, 유저뿐만 아니라, 우리 유저가 쓰는 개인 AI 비서가 이해하기 좋게 처음부터 제품·콘텐츠를 설계해야 한다는 뜻이죠.

8. “1인 1프로덕트” 시대, 조직은 어떻게 변할까

레베카: 이렇게 생산성이 올라가면, “팀 구성이나 조직 구조는 어떻게 달라질지 궁금해지네요.

에릭: 저는 장기적으로 “1인 1프로덕트에 가까운 시대”가 올 거라고 봅니다. 지금은 기획자, 디자이너, 개발자, 마케터가 나눠서 하던 일을 한 사람이 AI 에이전트 여러 개를 동원해서 “제품의 전체 라이프사이클”을 지휘하는 구조로요. 물론, 큰 조직이 하루아침에 그렇게 바뀌지는 않겠죠. 하지만 방향성은 역할이 융합되는 쪽으로 갈 거라고 생각합니다. 앞으로의 경쟁력은, 여러 역할을 이해하고, AI를 적절히 배치해서, 전체를 지휘할 수 있는 사람에게 생길 것이라고요. 

그 과정에서 개인 브랜드의 중요성도 커질 거예요. 조직의 이름보다 개인의 이름이 가진 신뢰와 스토리가 더 중요해질 가능성이 크다고 생각합니다.

9. 스타트업이 당장 해볼 수 있는 “작은 POC”

레베카: 마지막으로, “스타트업이 AI로 할 수 있는, 정말 작은 POC 하나만 추천해달라”면 뭐라고 하시겠어요?

에릭: 회사마다 다르겠지만, 공통적으로 추천하고 싶은 건 두 가지입니다. 자기 도메인에서 모바일 앱 하나 만들어 보기에요. 자기가 하는 비즈니스와 관련된 아주 단순한 기능이라도, AI 코딩 도구를 써서 모바일 앱으로 만들어 보는 경험을 해보면 좋을 것 같아요.

그리고 AI 기능이 들어간 마이크로 서비스 하나 만들기에요. 예를 들어, 고객 FAQ를 자동 요약해주는 내부 툴, 리포트 초안을 대신 써주는 도구, 영업/IR 자료를 자동으로 정리해주는 스크립트 등을 한두 달 안에 만들어서 실제 팀이 매일 쓰게 만들어 보면 어떨까 싶어요. 그 경험이 쌓이면, “우리 서비스의 코어 밸류에 AI를 어떻게 붙일 것인가”를 보는 눈이 생길 거라고 봐요.

레베카: 결국 “생각만 하지 말고, 작게라도 만들어보고, 매일 써봐라”군요.

에릭: 네.  AI 시대에 안 쓰는 기간이 길어질수록, 격차는 기하급수적으로 벌어질 거라고 생각합니다.

10. AI는 두렵지만, 결국 함께 가야 할 동반자

레베카: 오늘 이야기 정리하면서 느낀 건, “두렵지만, 더 늦기 전에 같이 걸어가야 하는 존재”라는 느낌이었어요.

에릭: 저도 그렇습니다.  AI의 발전 속도가 너무 빨라서 피곤하기도 한데, 남는 질문은 이거 같아요. 이 도구를 두려워만 할 것인가, 아니면 제대로 이해하고 우리 편으로 만들 것인가.

레베카: 마지막으로, AI와 함께 일하고 싶은 스타트업, 실무자들에게 한 문장으로 정리해주신다면요?

에릭: 생각은 더 많이 하고, 손과 발은 AI에게 최대한 맡기라고 말하고 싶어요.

레베카: 오늘도 이야기가 많이 깊어졌네요. 감사합니다, 에릭. 다음 편에서 또 뵐게요.

에릭: 감사합니다.

다음 Episode 3에서는 스타트업이 실제로 LLM을 활용할 때, AI와 더 효과적으로 소통하고 일하는 방법을 함께 살펴봅니다.