대부분 Unix에서 사용하는 DES 알고리즘이나 NT에서 사용하는 암호화 기법은 단뱡향 암호화이다. 단방향 암호화란 평문으로 암호문을 만들 수는 있어도 암호문으로 평문을 복원할 수는 없는 비가역적 암호화를 말한다. 말이 조금 어렵다면 다음 예를 보기 바란다.

		평문		암호문		복호
가역적		apple		ituhoqdgob93d		apple
비가역적		apple		nkgioy76jjtws

apple라는 평문으로 ituhoqdgob93d라는 암호문을 만들고, 다시 ituhoqdgob93d라는 암호문으로 apple이라는 평문을 만들 수 있다면 이러한 방식의 암호화는 가역성을 갖는다고 하며 일반적으로 양방향 암호화라고 한다. 이러한 양방향 암호화는 일반적으로 Outlook Explress처럼 넷트웍 프로그램에 많이 사용된다.

반면에 apple라는 평문으로 nkgioy76jjtws라는 암호문을 만들 수 있지만 반대로 nkgioy76jjtws라는 암호문으로는 절대 apple라는 평문을 복원할 수 없는 암호화는 비가역적이라고 하면 일반적으로 단방향 암호화라고 한다. 단방향 암호화의 경우 발생할 수 있는 문제는 사용자가 입력한 암호(apple)와 저장된 암호(ituhoqdgob93d)를 비교할 수 없다는 문제점이 발생한다. 그러나 이 문제 역시 간단히 해결할 수 있다.

평문		암호문
apple		nkgioy76jjtws
test		kfkioogywkyjy

만약 사용자의 저장된 암호문이 nkgioy76jjtws이고 단방향 암호화로 암호화되었다고 가정하자. 이 경우 사용자가 test라는 암호를 입력하면 시스템은 저장된 암호문(nkgioy76jjtws)을 복원해서 apple와 test와 비교하는 것이 아니라 test를 kfkioogywkyjy로 암호화한 후 저장된 암호문(nkgioy76jjtws)과 현재 변환된 암호문(kfkioogywkyjy)을 비교한다. 따라서 단방향 암호화의 경우 암호문을 평문으로 복원할 수도 없지만 평문으로 복원할 필요도 없는 셈이다.

그러면 넷트웍 프로그램에서는 왜 양방향 암호화를 사용할까? 이 부분도 생각해보면 간단하다. Outlook Express를 사용하는 경우를 생각해보자. 만약 OE에서 POP3서버의 암호가 apple이라면 로컬 컴퓨터에는 nkgioy76jjtws라는 암호문으로 저장된다. 단방향 암호화를 사용한 경우에는 nkgioy76jjtws으로 apple를 복원할 수 없으므로 nkgioy76jjtws를 암호로 전송해야 한다. 그러나 POP3 서버의 암호는 apple이므로 당연히 인증할 수 없는 문제가 발생한다.

즉, OE의 경우 POP3 서버에 접근하기위해서는 nkgioy76jjtws로부터 apple라는 평문을 복원하고 이 평문을 POP3 서버에 건네줄 수 밖에 없다는 점이다. 따라서 대부분의 넷트웍 프로그램들은 암호를 로컬에 저장하기위해 암호화를 사용하지만 원격 로그인을 위해 다시 평문으로 복원해야하는 필요성 때문에 양방향 암호화를 사용한다.

그러나 보안이 중요시되는 시스템 암호는 모두 단방향 암호화를 사용한다. 그러나 설사 단방향 암호화를 사용한 경우에도 암호를 알아낼 수 있는 방법이 있다. 그 방법은 아주 간단하다. 예를 들어 a부터 zzz...zzz까지 생성 가능한 모든 문자열을 암호화한 후 그 각각을 저장된 암호와 비교하면 어떻게 될까?

이 방법은 시간이 오래 걸리기는 하지만 정확히 암호를 찾아낼 수 있다. 그러나 경우의 수가 너무 많기때문에 현실적인 방법은 되지 못한다. 그래서 사용하는 방법이 사전 파일이다. 인종, 국가를 불문하고 암호는 대부분 자신과 연관이 있는 단어나 익숙한 단어를 사용한다. 이처럼 사람들이 암호로 사용할 가능성이 많은 문자열을 모아놓은 파일을 사전 파일이라고 한다.

예전에 필자는 모 PC 통신 사이트를 해킹한 적이 있다. 이때 알아낸 사용자의 암호는 전체 사용자의 약 30% 정도 였다. 외국의 사례를 보면 좋은 사전 파일을 이용한 경우 70%까지도 가능했다고 한다. 국내의 경우 암호를 알아낼 확율이 떨어지는 것은 위대한 한글때문이다. 예를들어 미국 사람이 많이 사용하는 apple을 국내에서는 tkrhk(두벌식으로 사과)로 입력하기때문이다. 즉, tkrhk(두벌식으로 사과)는 사전에 등록될 가능성이 현저히 낮은 문자열이기 때문이다.

인터넷 뱅킹 사이트를 접속해보면 암호에 숫자나 특수 문자를 입력하도록 하는 경우가 많은데 그 이유도 사전 파일에의한 해킹이나 암호를 연속적으로 생성해서 비교하는 경우, 경우의 수를 늘리기위한 방책이다. 암호를 설정하는 보다 자세한 방법은 사용자 계정에 암호 설정하기의 잠깐만을 참조하기 바란다.

아무튼 이때 알게된 것이지만 우리 나라 사람의 경우 가장 많은 암호는 tkfkd(두벌식으로 사랑)이었고, 외국의 경우 apple이었다.