2026-08-07

도트 캐릭터 배경 지우기 — AI로 만든 스프라이트를 게임에 넣기 전에

AI로 도트 캐릭터 애니메이션을 뽑고 나면 마지막 구간이 남습니다. 배경을 걷어내고, 가장자리를 다듬고, 게임 엔진에 넣을 크기로 내보내는 일입니다. 생성보다 지루하지만 여기서 대충 하면 게임 안에서 캐릭터 주변에 후광이 생기거나 도트가 뭉개져 보입니다. 이 글은 그 마지막 구간을 순서대로 정리합니다.

도트는 왜 배경 제거가 더 까다로운가

일반 일러스트와 도트는 같은 배경 제거를 해도 결과가 다르게 보입니다. 차이는 해상도입니다.

AI 영상 생성은 캐릭터를 그린스크린 위에서 움직입니다. 그 초록을 걷어낼 때 경계에는 항상 애매한 픽셀이 남습니다. 캐릭터 색과 초록이 섞인 반투명 픽셀, 이른바 그린 프린지입니다. 1024px 일러스트에서는 이 띠가 전체의 0.1%도 안 되니 눈에 띄지 않습니다. 하지만 64px 도트 캐릭터에서는 같은 한 줄이 캐릭터 폭의 1.5%입니다. 확대하면 윤곽선을 따라 초록빛이 도는 픽셀이 줄지어 보입니다.

게임에 넣으면 더 분명해집니다. 어두운 배경 위에서 캐릭터 가장자리가 밝게 뜨거나, 밝은 배경에서 검은 테두리가 생깁니다. 도트 게임은 픽셀 하나가 디자인 단위이기 때문에 이 한 줄이 그냥 "지저분함"으로 읽힙니다.

1단계: 자동 제거로 큰 덩어리를 걷어낸다

먼저 자동 배경 제거를 돌립니다. 캐릭터와 배경이 색으로 뚜렷이 갈리는 부분은 이 단계에서 거의 정리됩니다.

여기서 조정할 값은 하나입니다. 가장자리를 얼마나 공격적으로 깎을지. 강하게 걸면 초록이 깨끗이 빠지지만 캐릭터의 얇은 부분 — 머리카락 끝, 무기 날, 망토 자락 — 이 같이 사라집니다. 약하게 걸면 디테일은 살지만 초록이 남습니다. 도트 캐릭터는 얇은 디테일이 픽셀 두어 개로 표현되는 경우가 많아서, 세게 거는 쪽이 더 위험합니다. 약하게 걸고 남은 것을 손으로 정리하는 편이 낫습니다.

2단계: 마법봉으로 남은 덩어리를 없앤다

자동 제거 후에도 캐릭터 안쪽에 갇힌 배경이 남습니다. 팔과 몸통 사이, 다리 사이, 무기 손잡이 안쪽 같은 곳입니다. 이런 영역은 마법봉으로 클릭 한 번에 지웁니다.

허용 범위 값이 중요합니다. 낮으면 클릭한 색과 거의 같은 픽셀만 지워지고, 높이면 비슷한 색까지 번져 나갑니다. 도트는 색 수가 적어서 낮은 값(16 안팎)으로도 덩어리 전체가 잘 잡힙니다. 값을 올리다 보면 어느 순간 캐릭터의 어두운 부분까지 먹어 버리므로, 낮게 시작해 조금씩 올리는 편이 안전합니다.

3단계: 픽셀 격자를 켜고 사각 브러시로 다듬는다

여기부터가 도트 작업의 핵심입니다.

확대하면 이미지 한 픽셀이 화면에서 큰 사각형이 됩니다. 이때 격자를 켜면 격자 한 칸이 정확히 이미지 한 픽셀입니다. 지금 지우려는 것이 정확히 어느 픽셀인지 눈으로 확인하면서 작업할 수 있습니다. 격자 없이 확대만 하면 색이 뭉개져 보여서, 겨냥한 경계와 실제로 지워지는 경계가 어긋납니다.

브러시 모양도 중요합니다. 원형 소프트 브러시는 도트에 쓰면 안 됩니다. 원형 브러시는 가장자리로 갈수록 부드럽게 지우는데, 그 결과 지나간 자리마다 반쯤 지워진 픽셀이 남습니다. 알파값이 40%, 70% 같은 애매한 픽셀들입니다. 화면에서는 잘 안 보이지만 게임 엔진에 넣으면 캐릭터 주변에 반투명한 얼룩으로 나타납니다.

사각 브러시는 픽셀 격자에 딱 맞춰 지웁니다. 크기를 1픽셀로 두면 정확히 한 칸만 지워집니다. 가장자리를 한 픽셀씩 정리할 때는 이 방식이 유일하게 정확합니다.

확인: 배경색을 바꿔 가며 본다

다 지웠다고 생각해도 남은 픽셀은 배경색에 따라 보이기도 하고 안 보이기도 합니다.

어두운 캐릭터를 어두운 배경 위에서 검사하면 남은 픽셀이 배경에 묻힙니다. 흰색 배경으로 바꾸면 그제야 드러납니다. 반대로 밝은 캐릭터는 어두운 배경에서 잘 보입니다. 마젠타처럼 캐릭터 색과 전혀 겹치지 않는 색을 깔면 반투명 픽셀이 가장 잘 드러납니다 — 픽셀 툴에서 오래전부터 "이건 스프라이트가 아니다"라는 뜻으로 써 온 색입니다.

체크무늬 대신 단색으로 보는 것도 도움이 됩니다. 체크무늬는 그 자체가 격자라서, 픽셀 격자와 겹치면 어디까지가 그림이고 어디부터 배경인지 눈이 헷갈립니다.

마지막 함정: 내보내기 크기를 바꾸면 도트가 뭉개진다

이건 도구를 만드는 쪽에서도 놓치기 쉬운 부분이라 따로 적습니다.

스프라이트 시트를 내보낼 때 프레임 크기를 지정하면 이미지가 리사이즈됩니다. 이때 어떤 방식으로 크기를 바꾸느냐가 결정적입니다. 대부분의 이미지 라이브러리는 기본값으로 부드러운 보간(lanczos, bicubic 같은)을 씁니다. 사진에는 훌륭하지만 도트에는 파괴적입니다.

간단한 실험으로 확인할 수 있습니다. 두 가지 색만 쓴 8×8 체크무늬를 32×32로 키워 보면:

- 부드러운 보간: 66색 — 원본에 없던 64개의 중간색이 만들어집니다 - 최근접 이웃(nearest): 2색 — 원본 그대로입니다

부드러운 보간은 픽셀 사이에 없던 색을 지어냅니다. 모든 경계가 그라데이션이 되고, 앞에서 픽셀 단위로 공들여 다듬은 결과가 마지막 한 번에 사라집니다. 도트를 리사이즈할 때는 반드시 최근접 이웃을 써야 합니다.

정직하게 덧붙이면, GenioPlus도 이 부분이 한동안 기본 보간으로 되어 있었고 최근에 최근접 이웃으로 고쳤습니다. 다른 도구를 쓰신다면 리사이즈 옵션에 "nearest neighbor" 또는 "픽셀" 모드가 있는지 확인해 보세요. 없다면 크기를 바꾸지 말고 원본 크기로 내보낸 뒤 엔진에서 조정하는 편이 안전합니다.

정리

도트 스프라이트의 마지막 구간은 네 단계입니다. 자동 제거로 큰 덩어리를 걷어내고, 마법봉으로 갇힌 배경을 지우고, 격자를 켠 채 사각 브러시로 가장자리를 다듬고, 배경색을 바꿔 가며 확인합니다. 그리고 내보낼 때 리사이즈 방식이 최근접 이웃인지 확인합니다.

시간이 오래 걸리는 작업은 아닙니다. 다만 각 단계에서 무엇을 보고 있는지 알아야 하고, 도구가 픽셀 단위로 보여 주지 않으면 알 수가 없습니다.