[AI Tech] 네이버 부스트 캠프 9주차 회고

9주차 강의 리마인드

강의 리마인드

2024년 첫 주의 부스트캠프는 DKT 대회로 시작했다. 새로 바뀐 팀원들과 간단한 인사를 나누고 대회를 위한 팀 세팅부터 다시 시작해서 정신없었다. DKT(Domain Knowledge Tracing) 교육 데이터 마이닝 작업으로, 학생들의 지식 상태를 시간에 따라 예측하는 작업이다. 우리 대회는 엄밀하게 이야기하면 DKT라기보다는 시간에 따라 마지막 문제를 맞출수 있는 지 예측하는 이진 분류 문제이지만, DKT 태스크가 어떻게 돌아가는지 알아 가는 대회라고 생각한다.
DKT에 대한 소개에 이어서 다양한 모델들에 대한 강의가 진행되었다. 정형데이터에서 높은 성능을 보이는 트리기반 모델, 시계열 데이터 처리를 위한 LSTM, LSTM Attention, Transformer에 대한 설명이 이어졌다. Transformer도 2주차에 배울때는 정말 어려웠지만 계속 접하니깐 익숙해지는 것 같다. 금주 강의에서 인상 깊었던 것은 RNN -> LSTM -> seq2seq -> seq2seq + Attention -> Transformer 순서로 어떤 식으로 시퀀스 데이터를 처리하는 모델이 발전했고 Attention이 Transformer이전에도 존재했던 개념이고 Self Attention 구조 즉 병렬처리를 적용한 모델이라는 사실을 배울 수 있어서 의미있었다. GNN에 대한 강의는 다음주에 수강할 예정이다.

회고

Level2가 드디어 시작되었다. 새로운 팀원들과 처음 함께하는 대회이다. 서로 알아갈 틈도 없이 대회 준비하느라 정말 바쁘다 ㅎㅎ. 서로 다른 팀에 속에 있다가 모여서 그런지 소통하는 방식, 노션 사용법, 제출 방법 등 많은 부분이 달랐다. 이러한 것들중 서로 좋은 부분 혹은 이런식으로 적용하면 좋은 문화 혹은 방식들을 적용해서 앞으로 호흡을 맞추어 나갈 예정이다.