이 글을 쓰는 이유

신입 AI 엔지니어 취업을 준비하며 가장 힘들었던 점은 주변에 참고할 자료와 정보, 도움을 구할 멘토가 없었다는 점이었습니다.

제 실력은 객관적으로 출중한 편이 아니지만, 전략적인 구직을 통해 운이 좋게 병역특례 포지션으로 취업을 할 수 있었습니다.

이에 부족한 실력이지만 취업/구직 후기 글을 통해 다른 신입 AI 엔지니어 취준생 분들이 참고하실 수 있도록 이 글을 작성합니다.

군입대 확정까지 한 달, 이젠 진짜 위기다.

라는 생각으로 임했던 2주 간의 구직이었다.

나는 병역판정검사를 받고 5년이 지나 재병역판정검사를 한달 가량 앞두고 있었고, 이 한달 안에 산업기능요원 일자리를 구하지 못한다면 꼼짝 없이 재검 후 3급으로 상향되어 대학 졸업 후 26세의 나이로 군입대를 해야 하는 상황이었다.

하루 단위로 기술이 발전하고 SOTA가 뒤바뀌는 상황에서, 이는 AI Engineer를 희망하는 내 커리어에 (1)기술 발전을 따라가기 힘들 것 (2)18개월 후 채용 시장의 불확실성 이라는 치명적인 단점을 안고 있었다.

따라서 ‘병역특례 산업기능요원 보충역 신규 편입. 그런데 이제 AI를 곁들인’이 목표였고, 최종적으로 18개 기업에 지원을 하고 한 기업에 최종 합격하게 되었다.

내 취업 준비 기간은 인턴십을 위한 취업 준비와 인턴십까지 포함한다면 올해 1월부터인 약 9개월-10개월 정도이고, 인턴십 종료 후부터 따진다면 3-4개월 정도였다.

이 글은 AI 직무 산업기능요원 취업을 희망하는 이들, 학사 학위증 만으로 AI 직무로 취업하려는 이들을 주 독자층으로 생각하며 작성한 글이고, 모든 경우에 대한 해답 보다는 개인의 경험으로, ‘이 사람은 이렇게 했구나’ 정도의 감상을 예상하며 작성하였다.

AI Engineer란 뭘까…

개인적으로 AI Engineer라는 지칭을 싫어한다. 너무 모호하기 때문이다.

AI Engineer 직무의 모호성

채용 시장에서 지칭하는 AI Engineer는 도메인 별, 직무 별로 그 세부 분야를 나눌 수 있다.

도메인 별 분류는 고전적인 ML, CV, LLM이고,

직무 별 분류는 러프하게 나누면 Modeler와 Software Engineer 이다.

AI 직군은 석사, 박사 학위가 필수라는 언급을 자주 볼 수 있다. 확실히 그렇다. 그러나 학사 졸업생, 혹은 고등학교 졸업 또한 AI 직군 채용이 가능하다.

학부연구생 혹은 Indie researcher로서 유의미한 성과(탑티어 논문, 유명 모델 개발 등)가 있는 경우엔 매우 드물게 Researcher로 지원할 수 있겠지만, 현실적으로 석/박사 학위가 없는 AI Engineer는 SWE를 노려야 한다.

SWE라는 말은 결국 모델을 응용한 AI 워크플로우/파이프라인의 로직 뿐 아니라, 이를 커버하는 백엔드 or Ops 역량을 보유해야 한다는 말과 같다. ‘AI를 사용하는 소프트웨어를 개발’하는, AI Software Engineer이기 때문이다.

즉 학사 AI 직군 취업을 노린다면, 당연하게도 그에 수반되는 백엔드 역량을 하루 빨리 익히고 프로젝트에 적용해야 한다.

따라서 나는 과감하게 LLM Fine-tuning 같은, 석/박사 학위의 AI Engineer(혹은 Researcher)에게 대체될 수 있는 역량을 포기하고, AI SWE, 정확히는 LLM Software Engineer의 역량을 키우기로 결정하였다.

AI Software Engineer 채용 시장의 모호성

문제는 여기서 발생한다. “대체 어떤 백엔드를 공부해야 하는가?”

AI 학사라면 Python이 가장 친숙할 것이고, 파인튜닝이나 모델 서빙의 경우도 Python이 업계 표준 개발 언어라고 볼 수 있다.

그러나 현재 AI 엔지니어 채용 시장에는 AI 기능이 없는 제품에 Agent 등의 AI 기능을 신규 탑재하고자 하는 중소 규모의 기업들이 포진해 있고, 그렇다 보니 생각보다 많은 조직에서 GPU 등의 컴퓨팅 리소스와 인프라가 구축되어 있지 않거나, AI Engineer 커리어를 쌓아온 시니어가 없다. 이는 곧 AI 개발자들에게 친숙한 개발 스택과 환경과는 멀어질 수밖에 없다는 말과 같다.

주된 예시로 ‘TypeScript 기반의 모노레포’ 등의 개발 환경을 사용하는 기업들이 많고, 이 경우 AI SWE에게 요구되는 역량은 당연히 ‘TypeScript를 사용해 AI Agent 기능을 탑재할 수 있는’ 역량이 될 것이다.

*실제로 AI-Native, AX(AI Transformation) 등이 유행하면서, TS 네이티브 에이전트 프레임워크의 등장을 쉽게 찾아볼 수 있게 되었다.

문제는 취업 준비를 하는 동안의 나는 이런 지점까지 생각을 못 했다는 것이고, 결국 내 백엔드 역량을 증명할 수 있는 근거는 사이드 프로젝트로 진행한 이력서 분석 서비스의 FastAPI 백엔드를 구축했다는 점, 온프레미스 홈 서버를 구축하고 Github Action CI/CD 워크플로우를 구현했다는 점 두 가지 밖에는 없게 되었다.

너무도 얕고 Python에 종속된 경험 밖에는 없었다.

서류 준비

이력서

나는 이력서에서 가장 중요시 해야 할 기준은 ‘인사담당자와 실무자가 보기 좋은가?’라고 생각한다.

하루에 몇십-몇백 명의 지원자를 검토한다면 당연히 간결한 레이아웃에 눈에 띄는 일목요연한 성과가 맨 앞에 있는 이력서를 선호할 것이다.

그리고 이력서는 짧아야 한다. 자세한 내역은 포트폴리오에 적으면 되니까. 물론 이력서가 흥미로워야 포트폴리오를 보겠지만, 이력서에 임팩트를 담으면 된다. 그리고 신입이 이력서가 긴 것도 이상하다. 경력이 없는데 이력서가 길면 이상하지 않나. 따라서 나는 대다수의 이력서 관련 팁들이 주장한 ‘2 페이지 이력서’를 쓰기로 결심했고, 실제로 이력서는 2 페이지로 완성됐다.

많은 개발자 취업 준비생들이 노션 이력서를 사용하는데, 노션은 행 간의 공백이 너무 넓고, 모두가 똑같은 레이아웃을 활용하여 시각적으로 지치고(…), 정말 하면 안 되는 토글 삽입 등의 만행(?)을 저지르는 지원자가 많아 노션 이력서를 탐탁치 않게 여기는 인사담당자/실무자가 많다.

Google Docs를 추천하는 분이 많이 계시는데, 나는 Figma를 사용하였고 대충 ‘figma resume template’ 등의 검색어로 구글링 했을 때 가장 간결한 이력서 템플릿을 선정하였다.

간결하고 일목요연한 이미지를 위해 나는 2단 레이아웃을 활용하여 넓은 좌측 컬럼에

[ 이력서 제목 → 간결한 자기소개 → 경력 → 프로젝트 → 동아리 ] 순의 순서를 채택하였고,

우측 좁은 컬럼에

[ 고용 상태(병특) → 학교/학과 → 스킬 → 기술 스택 → 수상내역 → 외국어 ] 순으로 기재하였다.

이 때 경력과 프로젝트의 주요 성과를 요약하여 Bullet Point 리스트로 나열하였고, 성과를 수치화 했다면 해당 수치를 볼드 처리 하여 이력서 독자의 시선을 끌도록 했다.

경력은 모두 작성하였고 프로젝트는 내가 잘 대답할 수 있는 것들만 선별했다. 많이 써봤자 텍스트 압박만 심해지고 성과 적을 여백도 줄어든다.

또한 자기소개에는 내가 주로 경험을 쌓아온 분야를 첫 문장에 언급하고, 해당 분야에서 일궈낸 유의미한 성과를 두어개 작성한 다음, 마지막에는 ‘AI만 할 줄 아는 건 아니고 백엔드도 쫌 해요~’ 뉘앙스의 멘트를 적어 마무리했다.

동아리를 넣은 이유는 내 친화력과 적응력 등의 소프트 스킬을 어필하기 위해서였는데, 지금 생각해보면 진짜 쓸모 없는 것 같다… 그 어떤 면접에서도 동아리 관련 질문이 나오지 않았기 때문이다. 이력서와 포트폴리오는 하드스킬을 어필하고, 소프트스킬은 면접에서 태도로 보여주면 될 것 같다. 정말 가끔 ‘알바 한 것도 다 써라’ 라든가 ‘소프트스킬 어필해라’ 같은 팁을 볼 수 있는데, 그 말을 하는 사람들은 인사담당자가 아니다. 말도 안 되는 팁 써먹지 말란 얘기다.

포트폴리오

파워포인트로 가로 레이아웃의 포트폴리오를 작성하는 사람들이 많은데, 나는 귀찮아서 이력서와 똑같은 디자인과 레이아웃을 사용하였다. 단, 기존의 2단 레이아웃을 1단으로 수정하였다.

결국 채용 담당자들이 포트폴리오를 통해 확인하고 싶은 것은 ‘문제 해결 능력’이라고 생각한다.

여기에는

• 비즈니스와 연관된 문제를 발굴하고 정의하는 능력
• 논리적인 가설과 실험 방식을 세울 수 있는 능력
• 빠른 실험을 통해 검증하고 다음 가설로 넘어갈 수 있는 능력
• 해결하여 이뤄낸 성과가 실제로 비즈니스에 미친 영향

이 포함될 것이다. 그리고 가장 중요한 점은 이 문제가 직접적/간접적 혹은 잠재적으로든 비즈니스에 끼치는 영향을 설명할 수 있어야 한다는 점이다. 왜 했니? 했을 때 글쎄요 그냥 했슴다. 라고 하면 안 된다.

따라서 내가 포트폴리오에 담을 내용은 경력/경험에서의 핵심 기여의 구체적인 설명이었고,

각 핵심 기여는 [ AS-IS → Trouble Shooting → TO-BE ] 순으로, Bullet point 리스트로 간결하게 작성하였다.

AS-IS에는 해당 핵심 기여의 배경, 즉 해결한 문제의 정의를 작성하였고, 이 때 이 문제가 비즈니스에 끼치는 영향을 같이 서술하였다(e.g. 채팅 답변 속도가 너무 느려서 유저들이 중간에 떠남).

Trouble Shooting에는 정의한 문제를 해결하기 위한 가설-실험-검증의 과정을 작성하였다(e.g. 채팅 엔진의 서빙 방식을 이런 식으로 개선했는데 테스트 돌려보니 평균적으로 빨라짐을 확인함).

TO-BE에는 trouble shooting을 통해 해결하여 이뤄낸 성과를 적었다. 당연히 이 때도 비즈니스에 끼친 영향을 같이 서술하였다(e.g. 채팅 답변 속도가 50% 향상되어 유저 리텐션이 20% 가량 늘어남).

여기서도 수치화된 성과 등의 강조하고 싶은 내용은 볼드 처리를 하였다.

지원 과정

지원할 회사가 없어

정보처리 산업기능요원을 채용하는 회사는 많지만 AI 산업기능요원을 채용하는 회사는 적다.

왜냐?

석사/박사 전문연구요원을 채용하면 되기 때문이다. 석사 이상의 전문가를 쓸 수 있는데 누가 학사를 뽑겠나.

또한 기존 제품에 AI를 필요로 하는 회사가 적다는 점도 있다. 당신은 쇼핑몰 앱이나 인터넷 커뮤니티에 필수적인 AI 기능이 무엇인지 제안하고 설득할 수 있는가?

그래서 내가 제일 먼저 착수한 작업은 병역일터에 접속하여 ‘산업기능요원/정보처리/서울특별시’ 필터링을 걸어 검색된 400여개의 기업들을 하나하나 구글링 하는 것이었다. 나는 LLM SWE이므로, LLM 소프트웨어를 서비스 하는 기업인지, 현재 AI Engineer를 채용 중인지를 확인하는 작업이었다.

그렇게 추린 회사들은 서른 곳도 되지 않았다. 그 중 여러 채용 사이트와 커뮤니티, 인맥을 통해 소위 말하는 ‘가면 안 되는 곳’들을 추리고, 내가 공부하지 않은 코딩 테스트가 채용 프로세스에 포함되어 있거나 내 Fit과 전혀 맞지 않는 기업들을 추려내자 18곳의 ‘지원할 회사’ 리스트가 완성되었다. 정말 너무도 작은 숫자였다. 18…

그리고 아쉽게도 내가 지원한 채용 공고들 중 ‘산업기능요원을 뽑는다'고 명시한 기업은 두 곳 밖에 없었다. 정말 병역특례라는 깍두기(?) 없이 학사 취준을 하는 셈이 되었다.

채용 플랫폼 vs 기업 채용 페이지

솔직히 원티드가 짱인 것 같다…

내 서류를 열람했는지도 알 수 있고, 일주일이 지나면 리마인드 알림을 보낼 수도 있다.

단 기업 채용 페이지에서 지원할 때 원티드와 같은 채용 플랫폼과는 다르게 ‘왜 우리여야만 하는지 적어주세요’ 같은 질문이 있는 경우가 있었는데, 이런 경우에는 대부분 기업 채용 페이지를 통해 지원하였다. 뭔가 잘 쓰면 점수 좀 딸 수 있으려나 라는 생각이었다.

사용한 채용 플랫폼은 원티드, 잡코리아, 사람인이었고 원티드로 4곳, 사람인으로 1곳, 나머지는 모두 기업 채용 페이지로 지원하였다.

면접 과정

서류 합격

정말 감사하게도 세 곳에서 면접 제안이 왔고, 한 곳은 이메일, 한 곳은 전화와 이메일, 한 곳은 전화로 제안이 왔다. 모든 제안은 빠르면 서류 지원 후 이틀 만에 왔고, 느려도 일주일까지 지체되진 않았다.

과제 전형도 제안이 들어왔는데, 문제 해결 능력을 시험하려는 느낌이었고 여러 조건들이 바이브코딩을 강제하고 있다는 생각도 들었다. 해당 전형은 다른 기업에 최종 합격을 하게 되면서 진행하지 않게 되었다.

면접 준비

원래 면접 준비를 굉장히 꼼꼼히 하는 편이다.

채용 공고(다른 직무까지)와 채용 소개 페이지, 회사 블로그(기술 블로그 포함)의 거의 모든 포스트를 정독하고, 최신 기사 보도와 유튜브 등 매체 출연, 있을 경우 깃허브, 허깅페이스, 논문까지 모든 자원을 최소한 한번은 접하려고 노력한다. 당연히 출시된 제품은 내가 직접 사용도 해본다.

아쉽게도 네 곳 중 한 곳을 제외하고는 상기한 정보가 나에게는 많이 부족하다고 느껴질 정도로 찾아볼 수 없었고(정말 정보가 부족하거나 컬처핏만 강조하거나 추상적인 표현들이 주된 경우), 그렇게 기업 조사는 한 곳을 제외하고는 내가 만족할 정도로 끝낼 수 없었다.

그 외의 면접 준비는 사실상 하지 않았다. 귀찮아서 안 한 것은 아니고 내가 진행한 프로젝트를 복기하는 데만 해도 너무 많은 시간이 걸렸기 때문이다. 물론 AI Agent, RAG 등 내 주 분야에 대한 지식은 이미 보유하고 있었고 복기를 하기도 했지만, Transformer나 Encoder 같은 NLP 모델 아키텍처 등은 복기하지 못했다.

면접 회고

모든 면접이 좋은 기억으로 남았고, 내가 부족한 부분을 너무도 명확하게 깨달은 면접도 있었다.

이력서 기반의 면접 외에도 직무 지식을 묻는 면접이나 라이브 코딩도 경험했는데, 상술한 ‘복기하지 못한 부분들’을 복기하고 갔다면 훨씬 더 좋은 모습을 보여드렸을 것 같다. 그러지 못해 아쉽지만 어쩔 수 없다.

한 곳은 면접 초반에 인턴 직무에 대해서 여쭤보셨는데, 나는 2주 안에 취업을 못하면 군대를 가야 하는 상황이었기에 정중하게 어려울 것 같다고 말씀드렸고, 그 면접은 반쯤 체념한 상태로 임했다(애초에 경력직 공고였다).

또 올해 CVPR에 논문을 낸 곳이 있었는데, 당연히 면접 전에 논문 리뷰를 최대한 상세하게 하고, 논문 보다 개선이 가능할 것 같은 지점이나 우려되는 지점, 주요 지표 등을 정리했다. 면접에서 이에 대해 말씀을 드리면서 티키타카 하는 부분이 재밌었고, CTO님이 보드마카로 그림 그리면서까지 설명해주시는 부분이 인상 깊었다.

대부분의 면접에서 초반에 언급한 ‘AI 엔지니어 직무의 모호성’과 ‘AI SWE 엔지니어 채용 시장의 모호성’을 모두 느낄 수 있었다. 솔직하게 말하자면 AI 제품 개발의 방향성이 조금 아쉽게 느껴지는 기업들도 있었고, 채용 공고와는 사뭇 다른 논의가 이뤄진 면접도 있었다. 일개 취업준비생에 불과하지만 그럼에도 기업에게 느끼는 아쉬운 지점들이 있었고, 아마 면접관 분들도 나에게서 아쉬움을 느끼셨을 것 같다.

최종 합격

면접 다음날에 한 기업에서 최종 합격 연락을 전화로 받았다.

내가 지원한 18개의 기업 중 가장 가고 싶었던 기업 중 하나이기도 했고, 면접 준비 과정에서 가장 정보가 많은 기업이기도 했다. 논문을 보유한 기업도 이곳이었다.

또한 처우와 관련하여 나를 여러모로 굉장히 배려해 주시는 게 느껴졌다.

바로 합류하고 싶다는 말씀을 드렸고, 최종적으로 이 기업에 입사하기로 하였다.

입사를 확정한 후에 서류를 합격하여 면접 요청이 온 회사들이 세 곳 있었는데, 한 곳은 면접 후 최종 합격하였지만 제시해주신 처우가 내 희망사항과 너무 거리가 멀어 거절하였고, 한 곳은 현역 TO가 없다며 불합격 통보와 함께 인재풀 등록을 희망하냐는 메일을 받았다. 난 보충역인데… 다행히 보충역이라고 회신하자 사과와 함께 면접 제안을 주셨으나, 남은 채용 프로세스를 진행할 여력이 없어 예의 있게 거절하였다. 한 곳은 면접을 보러 갈 여력이 없어서 거절하였다.

결론은 제일 먼저 최종 합격 한 회사에 입사하기로 결정!

지원 결과

지원: 18

서류(과제): 7/10/1 (합/불/무응답)

2차 전형: 3/2/2 (합/불/미응시)

최종: 2

서류 합격률: 38.9%

면접 합격률: 40%

소감

앞서 서술한 것과 같이, 최근 채용 시장에서는 LLM Agent 등 AX를 위한 포지션이 대규모로 열리고 있다.

따라서 Python이 아닌 TypeScript와 Java를 학습하였다면 조금이라도 서류 합격률을 올릴 수 있지 않았을까 하는 생각이 든다.

Generalist (Engineer) 역량 부족

내가 겨냥했던 LLM Software Engineer로서의 역량 부족이다.

• Python만 할 줄 알고 TypeScript, Java는 거의 다룰 줄 모른다.
• 간단한 Python BE, DevOps를 이해하고 구축할 수 있지만, 실제 복잡한 프로덕션을 경험해보지 않았다.

Specialist (Researcher) 역량 부족

소수의 기업은 Software Engineer 보다 Modeler에 가까운 역량을 요구했다.

• Researcher 역량이 부족하다. 대체로 기본적인 NLP 지식이 부족.
• 한 분야에 Deep dive한 경험이 부족하거나 깊이가 얕다.

그럼에도 이번 취준/구직을 통해 ‘내 스펙으로 서류 합격까지는 갈 수 있겠다’는 자신감이 생겼고,

실제로 서류 합격률 38.9%라는 굉장한 성과에 뿌듯하기도 했다.

혹시 궁금하실 분들을 위하여 내 스펙을 간소하게 적자면,

• RAG B2B 솔루션 기업 AI Engineer 인턴 (4개월)
• 스타트업 외주 개발 2건
• 학부연구생 (1년)
• 그 외 다양한 협업 사이드 프로젝트 경험(LLM Agent와 Python BE)

였다.

이제는 돈 받고 일하는 어엿한 개발자로서 성과를 뽑아내는 일만 남았다.

첫 취준&구직 끝!