해색주의 조용한 공간

 내일이 마감 날인데 오늘까지 강의 듣고 시험 보고 겨우 마무리 했다. 이제 자야 할 시간. 쫌 많이 피곤하네...

원래 오늘 쉬었다가 운동 가려고 했는데, 벌써 12시가 넘었네. 긴 하루였다. 일도 많이 하고 공부도 많이 했는데, 왜 이렇게 뼈가 저리게 피곤한지 모르겠다.

 작년 4월까지 나는 주로 ML을 사용하고 CNN 정도나 쓰고 업무 때문에 KoELECETRA를 사용할 정도였다. 그 와중에 팀내 반발 때문에 그나마  분류기로 사용하지 못하고 임베딩 정도만 겨우 사용할 수 있었다. 당시에 우리는 DL, LLM을 하지 않으면 안되는 상황까지 몰렸고 ML만 겨우 할수 있는 환경에서 돌파구를 찾아야만 했다. 나는 KoELECTRA로 분류 모델을 만들면서 GPT-4o-mini로 라벨링을 했기 때문에 앞으로 내부에서 정답지를 만드는 라벨링을 위해서라도 LLM을 도입해야 한다고 팀장님을 설득했다.

 당시 나는 이런저런 분석을 파이썬+SQL로 하고 있었고 번아웃이 나기 직전이라서, 팀장님은 하고 싶은 일을 하라고 권고했다. 그때 시작한 것이 GPU를 확보하고 sLLM을 이용해서 라벨링과 같은 일을 할 수 있도록 준비하는 것이었다. 처음에는 그렇게 시작했지만 실제 모델이 반입되고 라벨링만 하지 않고 RAG를 적용하게 되면서 GPU도 2장으로 늘려서 사용했고 V-100이 아니라, A-100에서 본격적으로 작업을 하기 시작했다. 그러게 업무를 늘려나가고 새로운 인원을 뽑고 발표 자료 만들면서 다양한 모델들을 반입했고 성과를 만들어 나가기 시작했다.

 그 뒤로 업무도 늘어나고 본격적으로 언어모델을 사용하는 일을 맡게 되었고 어느새 돌아보니 나는 LLM을 주로 쓰는 데이터엔지니어처럼 일을 하게 되었다. 화면도 만들고 데이터 정리도 하고 LLM으로 요약도 성과도 정리하는 그런 일을 하다보니 나는 분석가나 모델러가 아닌 것 같다. 우리은행으로 이직한 것은 ML을 전문적으로 하고 괜찮다면 DL도 빨리 배우자였는데, 어느날 돌아보니 나는 LLM에 넣을 데이터를 배치로 전처리 생성하고 최적화해서 답변을 생성하고 서비스를 만드는 것을 클로드와 파이썬으로 짜고 최적화하고 테스트 하고 있었다.

 물론 작년 이맘때와는 비교할 수도 없이 많은 GPU를 쓰고 많은 일을 하고 파일럿 서비스도 만들고 있다. 다만, 분석보다는 많은 시간을 코딩하고 대용량 작업을 효율적으로 어떻게 돌릴지 에러는 어떻게 피할지 하는 프로그래머로서의 시간을 좀더 많이 사용하고 있다.

부상 + 독감 예방주사 후유증으로 1주를 꼬박 쉬고 주말운동 나옴. 아직도 종아리가 후들거리기는 한데 버틸만하다. "나이 먹어서 힘든거야." 라고 말해주네.

새삼 심재훈 선생님이 존경스럽다.

내일 운동 나오려면 일찍 자야지.

 다음에는 절대로 싼맛에 선택하지 말아야겠다.

 팀장님이 제미나이 잘 쓰고 있다고 하셔서 나도 연결제 구독을 했다. 구글 드라이브도 추가로 제공되고 여러모로 그 당시만 해도, 제미나이가 오히려 챗지피티를 압도하고 있던 시절이어서 구독 결정을 했다. 현재 제미나이는 멍청함 그 자체이고 지피티/클로드와는 비교도 안될만큼 후져지고 있다.

 내년 2월까지 결제했는데 

추석 운동 2일차 - 내일은 낮에 오자