AI 홍수 속을 살아가는 비루한 대학원생 (feat. ChatGPT, Copilot)

이번 학기에 나는 총 세 개의 수업을 듣고있다.

1. Software Development Life Cycle

는 말그대로 프로젝트 수업인데 그 수업에서 우리가 만드는 앱은 LLM/RAG를 사용하고 있다.

2. Bayesian/Deep learning

교수님께서 주신 숙제를 하려고 Google Colab 멤버십 가입까지 했다. 교수님 왈, 2년 전만 해도 Google Colab에서 제공하는 T4로 30 epochs 트레이닝이 가능했는데 지금은 어림도 없다. $9.99 결제했다고 교수님 오피스아워 가서 웃으며 말했더니 미안하다며 커피 두 잔 먹은셈 치라고 위로해 주셨다.

3. Systems Foundation

정말 low-level의 내용을 다룬다. 한달 내내 서킷만 그리더니 마지막 2주 동안 OS를 만들고 있다. 갑자기 OS 과제 설명하시면서 교수님께서 Copilot 쓰는 법을 가르쳐주신다.

---

 

Bayesian/Deep learning 수업 교수님은 한 학기 내내 딥러닝 모델 갖다 쓰는 법, 트레이닝 시키는 법, 이미지 인식 콘테스트까지 했다. 샘플 데이터를 모델에 트레이닝 시켜서 내가 손으로 직접 쓴 숫자 이미지를 선별해내는 것을 보고 엄청 신기해했다. 

내가 쓴 1

숫자들을 비교해보면 1이 가장 높아서 1이라고 예측했다

 

살면서 한 번도 AI 모델을 갖다쓰거나 트레이닝을 시켜본 적이 없기 때문에 이렇게 숫자를 예측하는 것만으로도 정말 신기했다. 

처음 본 나는 당연히 신기하다쳐도 교수님의 그 초롱초롱 빛나는 눈빛, 우리보다 더 드라마틱하게 AI 기술에 감탄하시는 교수님을 보면서 "역시 저런 사람이 교수님이 되어야지" 생각하게 됐다.

 

재밌게 모델을 배우고 있던 학기 말, 갑자기 Closed Book Written Test를 보겠다며 선언하셨다. 이런 이미지 인식을 할 때, 교수님께서 주신 코드를 양심 없게 다 갖다 쓰긴 했지만.... 

아까 내가 쓴 1을 이런식으로 바꿔야한다

교수님께서 매번 lab을 할 때마다 돌아다니시더니 우리들의 수준에 가히 충격받으셨나보다. 이미지 Resize하는 이유, Normalization 하는 법 등등 결과를 얻기 위해 거쳐야하는 수많은 과정들이 있는데 그냥 교수님 코드 쌱 돌리면 값을 뱉어내서 그러려니 하고 넘겼었다. 하지만 제대로 코드를 짜지 못하는 모자란 우리를 보면서 제대로 공부를 시키고 싶은 모양이신 것 같다. 정말 한 학기 동안 코드로 보던 개념, 대충 듣고 흘려보냈던 개념을 다시 붙잡아야 하는 미션이 주어졌다.

---

또 다른 수업인 System Foundations 으로 넘어와보자. 한 달이 넘도록 Digital Circuit을 그려야했다. 진짜 한 달 동안 별의별 종류의 서킷을 다 그렸는데 마지막에 RAM 관련해서 ld, sd, sw, sb 할 때 쯤엔 이게 대충 이해하고 그려선 안되는구나 뼈저리게 깨달았다. 뭐든 역시 기초가 중요하다.......

진짜 눈 빠졌던 서킷 그리기

 

진짜 끝나지 않을 것만 같던 서킷 그리기가 어느정도 막을 내리고 갑자기 교수님께서 Operating System을 만들겠다고 하셨다. 근데 요즘 시대에 발 맞춰 Copilot을 적극 권장하시며 Copilot으로 코드를 어떻게 짜야하는지 수업에서 친절히 가르쳐주셨다. 수업 공지사항에GitHub Student Pack을 승인 받으면 Copilot도 공짜로 쓸 수 있다고 남은 두 개의 프로젝트를 하기 위해서는 얼른 GitHub Student Pack 승인을 받으라며 매번 리마인드 해주신다. 

 

수업 시간에 친절하게 Copilot과 대화하는 법을 가르쳐주시는 교수님

 

사실 Copilot의 존재는 알고 있었지만 귀찮아서 딱히 쓰진 않았는데 교수님께서 이렇게 영업을 하시니 당장 깔았다. 이건 뭐 ChatGPT보다 더 코드에 최적화되고 코드 짜는 부분에 있어서 @workpace 기반으로 코드를 제공하니 진짜 감탄할 수 밖에 없었다.

---

이런 AI의 홍수 속에서 학생으로서 AI를 향한 창과 방패의 대결(?)을 마주하고 있자니 웃기면서도 매번 AI에 감탄하는 시간을 보내고 있다.

 

AI 를 적극적으로, 거의 AI 홍보대사 수준으로 찬양하시던 교수님은 Close Book Written Test를 보겠다며 우리에게 선전포고를 하셨고, OS를 만드는 교수님께서는 Copilot을 적극 권장하신다. 비루한 대학원생은 지금 이 상황에 어떻게 살아야하는 지에 대해 너무나도 고민이 된다.

 

내가 걸어가는 길은 DevOps지만 AI 홍수 속에서 이런 수업을 듣게 된 것 만으로도 좋은 기회로 생각하고 있긴 하다. 혼자서 했었으면 하지 못했을 SDLC 프로젝트, 어떠한 원리로 내가 ChatGPT랑 대화를 하는지, AI 모델은 어떻게 시작했으며 그 안에는 어떻게 구성되어 있는지 이렇게 깊게 공부해 본 적이 없긴 하다. 그래서 이번 학기는 AI로 시작해서 AI로 마무리 되었다고 해도 과언이 아니다.

 

하지만 요즘 드는 생각은 과연 이게 한 학기에 국한된 이야기일까 싶다. 심지어 OS를 가르치는 교수님마저 AI를 이용해 프로젝트를 주시는데 이렇게 되면 될수록 과제의 양은 늘어나고 깊이도 깊어진다. 지난 학기에 교수님들께서 '그래도 ChatGPT는 아직 보완해야 할 부분들이 있고 어떻게 정확한 정보를 거를 수 있는 지는 우리의 역량에 달렸다'라는 기조가 있었다면, 이번 학기는 'AI를 봐바! 너네의 친구가 되어서 세상을 함께 바꿀 수 있잖아?!'라고 말을 하는 것 같다.

이렇게 코드를 선택하고 Copilot한테 질문을 하면 코드를 알아서 짜준다.

 

그래도 미국에 처음 와서 ChatGPT를 써보기 시작하면서 이메일 문법 체크용으로 사용하고 있던 내가 이제는 ChatGPT 없이 코드를 거의 못짜는 수준(?)이 되어가고 있고, ChatGPT가 코드를 이상하게 짜면 '으이그 바보야~ 이걸 안 바꿨냐' 하면서 바꾸고는 또 다시 질문을 이어나가고 있다. 이제 Copilot이 코드 짜는 것까지 보고 나니, 이건 뭐 아직 내가 그까지 생각하지 않았는데 '너 이거 할거지?'라고 먼저 보여주는 것 같아서 소름끼치고 놀랐다.

if문에 printf(child)가 있으니까 else에 printf(parent) 자동 완성 하는거 보고 소름돋았다;;

 

AI의 홍수 속에서 대학원생이 되어 이렇게 공부할 수 있는 것에 한 편으로는 다행이라는 생각도 든다. 억지로 누가 떠먹여 주는 것을 소화하면서 미래의 나의 커리어에 AI는 뗄래야 뗄 수 없는 관계라는 것을 인정하는 시간이랄까. 이제는 AI를 하지 않으면 안 되는 시대라는 것이 무슨 말인지 피부에 와닿도록 느끼고 있다.

 

지금은 비록 수업 내용도 제대로 소화 못해서 교수님 Office Hour에 가서 정답을 구걸하고 친구들에게 빌붙어서 겨우겨우 내용을 알아차리고 있지만 언젠가는 이 반복 학습이 나의 능력치가 되는 날이 오겠지. 이제 곧 인턴십도 시작이고 여름 방학도 시작하는데 AIOps든 MLOps든 그쪽 분야로 한 발 짝 걸쳐서 커리어를 쌓을 수 있는 방법을 찾아나서야 할 것 같다. 그리고 이번 학기 제대로 소화하지 못한 내용, 5/15 기말 고사를 위해 열심히 한 번 달려봐야 할 것 같다.

 

 

GitHub Education Primer: Copilot

 

"AI를 지금이라도 해야하나?"라는 고민하는 분이 있다면 이젠 고민이 아니라 필수라고 강조하고 싶다.

나도 이번 학기 처음 AI를 접해보았지만 생각보다 진입 장벽이 낮다.

 

시작 전에는 나도 굉장히 겁이 났었는데 정말 간단하게는 Ollama를 이용해서 내 로컬에서도 LLM을 돌리는 시대가 됐다. 학교에서 우리가 하는 간단한 프로젝트들에도 AI가 안쓰이는 데가 없으니 말이다. 학교에서 사회로 나가는 개발자들도 웬만해선 직접 손으로 LLM을 돌려봤고, 내 손으로 모델을 트레이닝 시켜봤으며 그 안에 들어가는 어떠한 값들이 모델에 영향을 주는지도 배우고 나서 사회로 나간다. 이런 시대의 흐름 속에서 내가 무지한 채로 살아간다면 암울한 미래가 있지 않을까. 

 

나의 대학원 생활이 어느덧 1년 남짓 밖에 남지 않았지만 이번 학기를 통해 깨달은 부분을 밑거름 삼아 더 딥하게 AI를 배워야 할 것 같다