이 글의 핵심 내용

서비스 제공업체에서 구독 정보나 연결 설정을 받은 뒤 Shadowrocket에서 VMess와 VLESS 설정을 확인하려는 사용자를 위한 안내입니다. 먼저 프로토콜 인증, 전송 방식, TLS를 구분하고 Add Server의 항목을 하나씩 점검합니다. 어떤 값은 기본값으로 둘 수 있는지, 어떤 값은 정확히 일치해야 하는지, 연결에 실패했을 때 어느 부분부터 확인해야 하는지 알아봅니다.

VMess와 VLESS: 이름만 다른 것이 아닙니다

Shadowrocket의 VMess와 VLESS는 서로 다른 프록시 프로토콜입니다. 둘 다 사용자 식별에 UUID를 자주 사용하지만 메시지 형식과 인증 방식은 다릅니다. 서버가 VMess로 설정되어 있다면 클라이언트의 Type만 VLESS로 바꿔서는 안 됩니다. 주소, 포트, UUID가 모두 같더라도 서버가 다른 프로토콜을 허용한다는 뜻은 아닙니다.

VMess는 프로토콜 자체의 데이터 암호화를 지원하며, 사용하는 암호화 방식은 서버 설정과 호환되어야 합니다. VLESS 자체는 같은 방식의 트래픽 암호화를 제공하지 않으며 Encryption은 보통 none으로 설정합니다. 그렇다고 VLESS 연결이 인터넷에서 평문으로 전송된다는 뜻은 아닙니다. 바깥 계층에서 TLS를 사용하면 전송을 TLS로 보호할 수 있습니다. 프로토콜의 Encryption과 외부 계층의 TLS는 구분해서 확인하세요.

확인 항목VMessVLESS
사용자 식별자일반적으로 UUID 사용일반적으로 UUID 사용
프로토콜 자체 암호화지원, 서버 요구사항에 맞게 선택같은 방식의 암호화는 제공하지 않으며 보통 none
외부 계층 TLS서버 설정에 따라 사용 가능서버 설정에 따라 사용 가능하며, 프로토콜 이름만으로는 판단할 수 없음
전송 방식TCP 또는 WebSocket 등 서버 설정과 일치해야 함이 설정도 서버와 일치해야 하며 다른 연결의 값을 그대로 사용하면 안 됨
Type 변경 가능 여부불가능. 서버에서 해당 프로토콜 연결을 제공해야 함

프로토콜 이름은 속도 등급이 아닙니다. 서버 부하, 실제 네트워크 경로, 혼잡도, 전송 방식에 따라 결과가 달라집니다. 우선 프로토콜 이름만 보고 더 최신으로 보이는 항목을 고르기보다 클라이언트 설정을 서버와 일치시키세요.

Add Server: 주소, 포트, UUID부터 확인

여기서는 Home, Config, Settings라는 화면 이름을 기준으로 확인 순서를 설명합니다. Home으로 이동해 추가 버튼을 누르면 Add Server가 열립니다. 먼저 Type을 선택한 다음 주소, 포트, 사용자 식별자를 입력하세요. 플랫폼이나 화면 배치에 따라 항목 위치가 다를 수 있으므로 목록의 행 번호가 아니라 각 항목의 의미를 기준으로 입력해야 합니다.

  1. Type: 원본 설정에 VMess와 VLESS 중 어떤 프로토콜이 지정되어 있는지 확인합니다. 가져온 뒤에도 이 항목을 점검하고 표시 이름만으로 프로토콜을 추측하지 마세요.
  2. Address: 서버 주소를 입력합니다. 호스트 이름을 입력하는 항목이라면 호스트 이름만 입력하세요. 예를 들어 edge.example.com처럼 입력하고, https://나 WebSocket의 Path는 덧붙이지 않습니다.
  3. Port: 서버에서 받은 숫자를 그대로 입력합니다. 443은 TLS에 자주 쓰이지만 포트 번호만으로 TLS가 자동 활성화되지는 않습니다. 다른 포트에서 TLS를 사용할 수도 있습니다.
  4. UUID: 서비스 제공업체에서 받은 값을 빠짐없이 복사하고 앞뒤 공백이나 누락된 문자가 없는지 확인하세요. UUID는 인증 정보이므로 임의의 메모나 연결 이름으로 대신할 수 없습니다.
  5. 프로토콜별 항목: VMess에 AlterId가 표시되면 원본 설정대로 입력하세요. 최신 설정에서는 0이 흔하지만, 제공된 값이 명확하다면 임의로 바꾸지 마세요. VLESS에 Flow가 있다면 서버 및 사용 중인 전송 방식 조합과 일치해야 합니다.
2가지
이 글에서 확인하는 프로토콜: VMess / VLESS
443
TLS에 자주 쓰이는 포트이며, TLS 자동 활성화를 뜻하지 않음
36자
하이픈을 포함한 일반적인 UUID 텍스트 길이

UUID 길이는 일반적인 표준 텍스트 형식을 확인하기 위한 기준일 뿐, 새 값을 직접 생성하라는 뜻이 아닙니다. 예시 값 00000000-0000-4000-8000-000000000000은 형식을 설명하기 위한 것으로 실제 연결에 사용할 수 없습니다. 인증 정보가 포함된 스크린샷과 로그는 먼저 민감한 정보를 가리세요.

전송 방식, Host, SNI: 각각 따로 확인

프로토콜은 프록시 메시지를 구성하는 방식을 정하고, 전송 방식은 그 메시지를 전달하는 방식을 정합니다. VMess나 VLESS라는 프로토콜 이름만으로 TCP와 WebSocket 중 무엇을 사용하는지 판단할 수 없습니다. 서버에서 WebSocket을 요구한다면 클라이언트에 해당 Path도 입력해야 하며, 일부 설정에서는 Host도 지정해야 합니다.

Address는 연결할 대상이고, WebSocket Host는 HTTP 핸드셰이크에 포함되는 호스트 정보입니다. TLS의 SNI는 서버에 접속하려는 TLS 호스트를 알리는 데 사용합니다. 세 값이 같을 때도 있지만 서로 다를 수도 있습니다. 설정을 통일하겠다고 세 항목 모두 Address로 바꾸지 마세요.

전송 설정별 확인 항목

TCP 설정
  • 전송 방식이 서버에서 지정한 TCP인지 확인합니다.
  • 원본 설정을 기준으로 TLS 사용 여부를 확인합니다.
  • TLS를 사용하는 경우 SNI와 인증서 검증 요구사항을 확인합니다.
  • 다른 WebSocket 연결의 Host와 Path를 그대로 복사하지 마세요.
WebSocket 설정
  • 전송 방식이 WebSocket인지 확인합니다.
  • 예를 들어 /example-ws와 같은 Path를 빠짐없이 입력합니다.
  • 설정에 적힌 Host를 입력하고 주소의 IP로 임의 변경하지 마세요.
  • TLS도 사용하는 경우 SNI를 별도로 확인합니다.

먼저 서버에서 요구하는 전송 방식 조합을 그대로 설정한 뒤 오류를 확인하세요. Type, TLS, Path를 한꺼번에 바꾸지 마세요.

Path의 대소문자, 슬래시, 쿼리 부분은 라우팅에 영향을 줄 수 있습니다. /example-ws를 /로 바꾸면 같은 서버에 연결되더라도 프록시 서비스 경로로 연결되지 않을 수 있습니다. 로그에 HTTP 404가 표시되면 우선 Path와 Host를 확인하세요. 다만 이 현상만으로 프로토콜이나 UUID가 올바르다고 단정할 수는 없습니다.

TLS와 Encryption: 두 설정을 혼동하지 마세요

VLESS의 Encryption이 none이어도 TLS를 끌 필요는 없습니다. VMess가 프로토콜 자체 암호화를 사용하더라도 서버에서 요구하는 TLS를 꺼야 한다는 뜻은 아닙니다. 인증 단계에 도달하기도 전에 실패할 수 있으므로 클라이언트와 서버의 전송 방식이 일치해야 합니다.

TLS 켜기, 인증서 검증 유지

권장

서버에서 TLS 연결을 명시적으로 제공한다면 TLS를 켜고 SNI를 확인하세요. 인증서를 정상적으로 검증하면 서버의 신원을 확인할 수 있으므로, 인증서 검증을 건너뛰는 설정을 일반적인 방법으로 사용하지 마세요.

적합한 경우: 서비스 제공업체 설정에서 TLS를 명시적으로 요구하는 연결. 권장 사항은 서버 요구사항을 전제로 합니다.

TLS 끄기, 설정에서 명시한 경우에만 사용

원본 설정에 TLS를 사용하지 않는다고 명시된 경우에만 끄기 상태를 유지하세요. 포트가 443이라는 사실만으로 TLS 사용을 단정할 수 없습니다. 서버에서 TLS를 제공하지 않는다면 클라이언트에서 옵션을 켜도 TLS가 추가되지 않습니다.

적합한 경우: 설정에서 TLS를 사용하지 않는다고 명시한 연결 또는 이미 보호된 전송 경로를 사용하는 통제된 환경.

결론: 인증서 오류는 도메인과 시간부터 확인

TLS 인증서 오류가 발생하면 먼저 기기 시간을 맞춘 뒤 원본 설정에 따라 SNI와 인증서 도메인을 확인하세요. 여전히 일치하지 않으면 서비스 제공업체에 설정을 문의하고, 검증을 끄는 방법으로 문제를 가리지 마세요.

기기 시간 차이도 VMess 인증에 영향을 줄 수 있습니다. 문제를 확인할 때 시스템 설정에서 자동 날짜 및 시간을 켠 다음 다시 연결해 보세요. 시간 조정과 프로토콜 변경을 동시에 하지 마세요. 어떤 변경이 효과가 있었는지 알기 어렵습니다.

가져온 뒤 확인하는 방법: 연결부터 규칙까지

구독 정보가 있다면 수동 입력을 줄이도록 서비스 제공업체에서 받은 설정을 먼저 가져오는 것이 좋습니다. 구독 링크는 서비스 제공업체에서 받으세요. 예시 https://example.com/sub?token=xxxx는 형식을 보여 주기 위한 것으로 실제 사용할 수 있는 링크가 아닙니다. 구독을 업데이트하면 서비스 제공업체가 관리하는 항목이 다시 입력될 수 있으므로 직접 수정하기 전에 기존 값을 기록해 두세요.

  1. 현재 항목 확인: Home으로 돌아가 테스트할 서버를 선택하고 기본 서버 선택 표시를 확인하세요. 편집한 서버와 테스트하는 서버가 서로 다른 상황을 방지할 수 있습니다.
  2. 연결 켜기: Home에서 연결 스위치를 켜고 시스템 안내에 따라 VPN 구성을 허용하세요. VPN 상태가 표시되어도 접속하려는 웹사이트가 정상적으로 열린다는 뜻은 아닙니다.
  3. 테스트 실행: Connectivity Test를 실행한 다음 실제로 사용할 대상 서비스에 접속해 보세요. 테스트 성공은 해당 테스트 요청이 성공했다는 뜻일 뿐, 모든 도메인이 예상대로 분기된다는 보장은 아닙니다.
  4. 규칙 영향 분리: Global Routing을 확인하세요. Direct로는 프록시 경로를 검증할 수 없습니다. 규칙 문제를 확인하려면 Proxy로 잠시 바꿔 대상 요청을 테스트한 뒤 원래 Config로 되돌리세요.
  5. 설정 다시 확인: Proxy에서는 연결되지만 Config에서 문제가 생기면 Config에서 현재 활성화된 설정과 적용된 규칙을 확인하세요. UUID를 무작정 계속 바꾸지 마세요.

Config에서는 현재 설정을 바탕으로 DOMAIN-SUFFIX, GEOIP, IP-CIDR, FINAL 등의 규칙과 규칙이 참조하는 정책을 확인하세요. 규칙은 위에서 아래 순서로 적용되며 먼저 일치하는 규칙이 처리 방식을 결정합니다. Global Routing의 Scene은 시나리오별 설정에 따라 동작하므로, 설정 내용을 파악하기 전에 특정 서버 문제를 분리하는 용도로 사용하지 않는 것이 좋습니다.

자주 묻는 질문: 한 번에 한 가지만 바꾸고 다시 테스트

UUID가 같은데 VMess는 연결되고 VLESS로 바꾸면 연결되지 않는 이유는 무엇인가요?

UUID는 인증 설정의 일부일 뿐이며 서버가 다른 프로토콜을 자동으로 허용하게 만들지는 않습니다. 먼저 Type을 원래 값으로 되돌리세요. VLESS를 사용하려면 서비스 제공업체에서 완전한 VLESS 설정을 받아야 합니다. 프로토콜 선택 항목만 바꾸면 안 됩니다.

VLESS에 none이라고 표시됩니다. 암호화가 되지 않는 건가요?

먼저 표시된 항목이 Encryption인지 TLS인지 확인하세요. VLESS의 프로토콜 암호화는 보통 none이지만 외부 계층에서 TLS를 사용할 수 있습니다. 편집 화면으로 돌아가 TLS, SNI, 인증서 검증 설정을 각각 확인하고 원본 설정과 비교하세요.

설정을 복사했는데 계속 시간 초과가 발생합니다. 무엇부터 바꿔야 하나요?

먼저 선택된 서버가 맞는지 확인하고 Address와 Port를 점검한 다음, 현재 네트워크에서 해당 서버에 연결할 수 있는지 확인하세요. 시간 초과만으로 UUID 오류라고 판단할 수는 없습니다. 전송 방식, TLS, 프로토콜을 동시에 바꾸지 마세요. 다른 네트워크 환경에서도 테스트하고 두 결과를 기록해 보세요.

설정을 수정한 뒤에는 연결되지만 구독을 업데이트한 뒤 다시 실패하면 어떻게 하나요?

업데이트 전후의 Type, TLS, Host, Path, SNI를 비교해 어떤 항목이 바뀌었는지 확인하세요. 민감한 정보를 가린 차이 내용을 서비스 제공업체에 전달해 구독 설정을 수정하도록 요청하세요. 구독 링크 전체와 UUID를 공개 페이지에 게시하지 마세요. 잘못된 설정의 원인을 해결하지 않은 채 기기에서 값을 반복해서 바꾸며 장기간 우회하지 마세요.

사용한 프로토콜, 전송 방식, TLS 상태, 테스트 네트워크, Connectivity Test 결과, 구체적인 오류를 간단히 기록해 두세요. 증상을 기록하면 모든 설정을 무작정 바꿔 보는 것보다 문제를 찾는 데 도움이 됩니다. 이 안내에서는 서버나 구독 서비스를 제공·판매·추천하지 않습니다. 클라이언트 일회성 구매와 네트워크 회선 요금제는 별개이며, 연결 설정은 서비스 제공업체에서 받아야 합니다.