트랜스포머를 활용한 자연어 처리

책의 기본 정보

출판사

한빛미디어

출간일

2022-11-30

분량

484쪽

ISBN

9791169210508

기초 문법 다음에 모델의 활용을 살펴볼 때

트랜스포머를 활용한 자연어 처리는 허깅페이스의 도구와 모델을 이용해 여러 자연어 처리 작업을 살펴보는 책입니다. 2022년 11월 출간된 484쪽 인쇄본입니다. 프로그래밍 자체를 처음 배우는 독자보다는 파이썬과 머신러닝의 기본을 알고 텍스트 모델의 활용 범위를 넓히고 싶은 독자가 비교할 수 있습니다. 입문이라는 말을 어떤 출발선에서 쓰는지 구분할 필요가 있습니다.

언어 모델을 사용하는 작업도 목적에 따라 준비할 자료와 평가 방식이 달라집니다. 이 책을 읽기 전에 분류와 요약, 질문 답변 가운데 무엇을 만들어 보고 싶은지 정해 보세요. 모든 작업을 한 번씩 실행하는 것보다 하나의 입력과 결과를 이해하는 편이 기초를 다지는 데 적합할 수 있습니다. 도구가 편리하게 감싼 과정 안에서 무엇이 일어나는지도 확인해 볼 수 있습니다.

이 책의 특징: 작업마다 데이터와 평가를 함께 봅니다

트랜스포머의 구조와 토큰화를 살펴보고 텍스트 분류와 개체명 인식, 생성과 요약, 질문 답변으로 이어집니다. 각 작업에 맞는 자료 준비와 모델 활용, 결과 평가의 흐름을 비교할 수 있는 구성입니다. 텍스트를 숫자 표현으로 바꾸는 단계와 모델이 결과를 만드는 단계를 구분하며 읽으면 낯선 용어가 맡는 역할을 찾기 쉽습니다.

효율적인 모델 구성과 레이블이 부족한 상황, 데이터셋과 토크나이저 준비 등 더 넓은 내용도 포함되어 있습니다. 처음부터 모든 고급 부분을 같은 깊이로 공부할 필요는 없습니다. 자신의 예제에서 어떤 문제가 생겼을 때 돌아가 볼 수 있는 범위를 알아 두는 방식도 가능합니다. 모델의 크기나 이름보다 현재 작업의 제약을 설명할 수 있는지 생각해 보세요.

정답 점수와 실제 오류 사례를 나란히 놓습니다

분류를 연습한다면 전체 점수 외에 틀린 문장 몇 개를 직접 읽어 보세요. 길이가 길어서인지, 표현이 모호한지, 자료에 드문 주제인지 질문할 수 있습니다. 요약에서는 원문에 없는 내용이 추가되거나 필요한 정보가 빠지지 않았는지도 살펴야 합니다. 서로 다른 작업의 결과를 같은 기준으로만 평가하지 않는 연습입니다.

모델을 바꾸기 전에는 입력 자료와 평가 기준이 같은지 확인해 보세요. 여러 조건을 동시에 바꾸면 무엇이 차이를 만들었는지 알기 어려울 수 있습니다. 작은 공개 자료로 시작해 변화를 기록하고 설명 가능한 비교를 만드는 편이 좋습니다. 예제를 실행했다는 사실이 실제 서비스의 품질을 검증했다는 뜻은 아니므로 적용 범위도 함께 남겨 두세요.

2022년 판본의 생태계를 현재 환경과 대조하세요

라이브러리와 모델 배포 방식은 출간 이후 달라질 수 있습니다. 책의 개념과 작업별 흐름은 살펴보되 설치 방법과 지원 기능은 현재 공식 문서에서 확인해야 합니다. 현재 가장 뛰어난 모델을 비교하는 목록으로 읽기보다 트랜스포머 기반 자연어 처리의 학습 구성을 이해하는 자료로 선택하는 것이 적절합니다.

파이썬 문자열과 자료 처리에서 자주 막힌다면 더 기초적인 텍스트 분석서를 먼저 읽어도 좋습니다. 반대로 기본 전처리와 분류를 해 본 독자는 이 책에서 모델 활용과 평가의 범위를 넓힐 수 있습니다. 학습 단계가 맞는지를 확인한 뒤 필요한 작업부터 읽고, 실제 데이터에 적용할 때에는 자료의 사용 권한과 민감한 정보의 처리 조건도 별도로 검토해 주세요.

작가 소개

루이스 턴스톨·레안드로 폰 베라·토마스 울프는 허깅페이스의 오픈소스와 자연어 처리 분야에서 연구와 개발을 수행한 저자들입니다. 자연어 처리 프로젝트와 트랜스포머 생태계의 경험을 바탕으로 집필했으며 박해선이 한국어로 옮겼습니다.

이 책과 함께 읽는 주제

• 자연어 처리 입문 책 추천: 한국어 텍스트에서 모델 활용까지