영국 국제사회학파를 대표하는 헤들리 불(Hedley Bull)은 국가체제를 국제사회, 즉 복수의 주권국가들이 무정부 상태에서 상호작용하며 일정한 질서를 유지하는 사회로 보았다. 그의 명저 <무정부 사회>에서 불은 국제사회가 ‘어떤 공통의 이해관계와 공통의 가치를 인식하는 국가들이 상호관계에서 일정한 공통의 규칙에 의해 구속되고 있음을 인지하고, 공통의 제도를 공유함으로써 하나의 사회를 형성할 때 성립한다’고 주장함으로써 무정부 상태에서도 국가들은 공통의 이해, 규범, 규칙, 상호 인식을 공유하고 이를 통해 일정한 질서를 만들어낸다고 보았다. 여기서 중요한 것은 질서, 즉 국제질서에 대한 불의 생각인데, 그는 국제질서를 ‘국제사회의 기본적인 또는 근원적인 목표를 지탱하는 행동양식’으로 정의하였다. 불에 의하면, 국제사회의 근원적인 목표라 함은 국가체제의 보존, 개별국가의 독립성과 대외주권의 유지, 평화유지 그리고 보편적 가치(생명, 신의, 재산)의 보존을 의미한다. 따라서 불의 관점에서 볼 때, 국가들은 국제질서에 따라 공통의 이해관계와 가치를 인식하고 추구함으로써 국제사회를 구성한다.

불의 국제사회론을 이해함에 있어 중요한 것은 역사에 대한 인식이라 할 수 있다. 불은 국제질서의 토대가 되는 국가간 공통의 이해·규범·규칙·상호 인식이 역사적 배경에 따라 그 형태와 정도의 차이를 보인다는 사실을 강조함으로써 국제질서 형성에 있어 문화적·역사적 힘에 특히 주목했다. 다시 말해 한 사회의 구성원들이 공유하는 공통의 규범·규칙·제도에 대한 이해는 시간적·공간적으로 변화하기 때문에 당시의 역사를 고려하지 않고서는 그 이해가 무엇이었는지 또 얼마나 강하게 혹은 약하게 존재했는지 파악할 수 없다는 것이다. 이러한 의미에서 불은 국제질서의 개념이 추상적이거나 비역사적 합리주의적인 것으로 받아들여지는 것을 경계했다. 규범과 제도를 중시한다는 점에서 불은 종종 구성주의자로 오해받기도 하지만 국제사회론과 구성주의 사이에는 분명한 차이가 존재한다. 구성주의는 구성되어지는 행위자간 간주관적 이해의 중요성만을 강조하지만, 국제사회론은 그러한 공유된 이해와 함께 물질적인 힘의 분포와 권력정치를 동시에 고려한다.

따라서 불은 국제관계에서 권력의 역할을 무시하지 않았다. 오히려 그는 물질적 권력을 통해 이루어지는 전쟁, 강대국정치, 세력균형 등을 국제사회의 제도(institutions)로 보았고, 이러한 제도들이 없다면 국제질서를 지탱하는 법과 규범 역시 유지될 수 없다고 믿었다. 다만, 현실주의자들과 달리 불은 전쟁이나 세력균형과 같은 권력정치의 현상 역시 철저히 ‘제도화된 법적·도덕적·정치적 규범구조 내에서 일어난다’고 주장함으로써 자신을 고전적 현실주의나 신현실주의로부터 분리시키는 모습을 보였다. 그렇다고 해서 국제사회론을 자유주의적 제도주의로 오해해서도 안된다. 국제사회론은 분명 규범, 규칙, 제도를 중요시하고 또 이러한 요소들이 권력과 이익에 따른 국가들의 집단행동에 별도의 영향력을 행사한다는 사실을 인정한다는 점에서 자유주의적 제도주의와 일맥상통하지만, 이익에 대한 이해에 따른 국가의 행위를 단순히 합리주의적 관점에서만 보지 않았다는 점에서 자유주의적 제도주의와 확실한 차이를 가진다. 또한 불은 추상적인 인간 이성에 의한 자연법이 개인(또는 국가)으로 하여금 공통의 가치와 이익을 추구하게 한다는 그로티우스적 사상에 전적으로 동의하진 않았다. 그는 모든 사회가 안전의 확보, 합의의 이행, 소유의 안정이라는 기본적인 가치를 추구한다고 주장하면서도 이러한 공통의 가치에 대한 국가의 이해를 단순히 추상적·비역사적 합리성에 의한 것이 아닌 역사적으로 형성되고 진화하는 것으로 보았다.

공통의 이익에 대한 국가들의 인식과 이해가 국제사회를 가능케 하는 질서를 형성한다고 볼 때, 그 다음 중요한 질문은 그 질서가 어떻게 지속될 수 있는가 하는 것이다. 이에 대해 불은 ‘근원적인 목표가 공통의 이익이라는 인식에 의해, 그것들을 유지하기 위해 필요한 행동양식을 규정하는 규칙들에 의해, 그리고 그러한 규칙에 효과를 부여하는 제도들에 의해 유지된다’고 답하였는데, 그렇다면 중요한 것은 공통의 이익에 대한 인식이 그에 부합하는 행동양식으로 이어지게끔 유도하는 ‘규칙’, 그리고 그러한 규칙에 효과성을 부여하는 ‘제도’를 규명하는 일일 것이다. 불에 의하면, 규칙이란 행위자가 ‘규정된 방식으로 행동하도록 요구하거나 허락하는 일반적 명령원칙’이라 할 수 있는데, 그 예로 법, 도덕, 관습, 예절, 게임의 규칙 등을 들 수 있다. 따라서 규칙은 근본적인 사회적 목표들과 일치하는 행동을 요구한다. 제도란, 규칙에 실효성을 부여하는 기능들로서, 규칙의 제정, 전달, 집행, 해석, 강제, 정당화, 적응, 보호를 의미한다.

불에 따르면, 초국가적 권위체와 강한 사회적 연대가 부재한 국제환경에서도 주권국가들은 세 가지 단계를 거쳐 질서를 유지한다. 첫째로 국가들은 기본적이고 근원적인 사회적 목표를 공통이익으로 인식한다. 둘째로 국가들은 ‘국가체제의 보존’, ‘국가들의 공존’, ‘국가간의 협력’을 규칙으로 인정한다. 마지막으로 국가들은 그러한 규칙들이 제정·전달·집행·해석·강제·정당화·적응·보호되도록 하는 역할을 수행함으로써 규칙들에 사회적 효과를 부여한다. 국제사회의 제도의 예로 불은 세력균형, 국제법, 외교, 강대국 관리체제, 전쟁 등을 들었고, 국가들이 이러한 제도의 기능들을 수행하면서 정도의 차이는 있지만 협력을 모색하게 된다고 보았다.

여기서 특히 국제법에 대한 불의 해석은 국제질서 유지에 있어 권력과 규범의 역할을 이해하는 데에 도움이 된다. 불은 국제법을 ‘세계정치에서 국가 및 기타 행위주체들 상호간의 관계를 구속하는 규칙의 총체(body of rules)’라고 정의했다. 불에 의하면, 국제법이 형성되고 집행되는 국제사회에는 중앙권력이 존재하지 않지만 무정부 상태가 만들어내는 자구의 원칙에 의해 국제법규는 실효성을 가지게 된다. 다시 말해, 개개의 국가가 자구조치에 따라 행사하는 무력의 위협과 사용이 집단적 제재의 형태로 작동하여 국제법규의 실효성을 유지한다는 것이다. 불의 이러한 해석에는 두 가지 중요한 명제가 함축되어 있다.

첫째는 국제사회에서 국가는 자신의 권리 확보를 위해 무력을 사용할 수 있다는 것이다. 불은 국제법규가 유지될 수 있는 상태란 ‘국가들이 권리를 침해당했을 때 자신의 권리를 복구하기 위한 힘을 사용하고자 하는 의지가 국제사회 내에 분산되어 있는 상태’라고 말하였는데, 이를 통해 알 수 있는 점은 그가 자연상태에서 개인이 자기보존을 위해 상대에게 무력마저도 행사할 수 있는 권리, 즉 홉스가 말한 자연권을 부분적으로 국가적 차원에 적용했다는 점이다. 물론, 불은 ‘권리를 침해당했을 시’에 한하여 국가의 무력사용을 정당화했지만, 권리의 침해를 명확히 규정할 수 없다는 점에서 국제법 역시 자연권에 기초한 권력행사에 의존하고 있다고 볼 수 있다. 이는 권력이 국제법의 실효성에 영향을 미친다는 것으로도 이해할 수 있다.

둘째는 공통의 가치와 이익에 대한 국가들의 공유된 인식이 국제법체계 저변에 깔려있다는 것이다. 불은 법학자 한스 켈젠(Hans Kelsen)이 말한 ‘공동체에 의한 힘의 독점’이 국제법질서에도 존재한다고 봄으로써 중앙권력이 없더라도 ‘공동체의 이름으로 행사되는 강제행위’가 법질서를 만들고 ‘상대적으로 분권화된’ 제재체계를 형성한다는 견해를 내비쳤다. 이는 공통의 가치를 지향하는 국가들이 그 공통의 가치를 저해하는 행위주체를 분권화된 제재를 통해 집단적으로 벌한다는 것으로도 해석할 수 있다. 국제법과 세력균형이 본질적으로는 크게 다르지 않다는 불의 주장은 이러한 맥락에서 이해될 수 있다.

불은 국제법이 준수되는 주된 요인으로 법적 강제성뿐만 아니라 국가간 합의의 전제가 되는 공통의 목적에 대한 국가들의 이해, 강대국의 강제적 행동 그리고 상호이익의 존재를 거론함으로써 결과적으로 국제질서를 유지하는 것은 냉정한 권력정치와 더불어 공통의 목표와 가치의 공유라는 점을 강조하고자 했던 것으로 보인다. 국제법 – 그리고 나머지 제도들 – 이 국제사회의 필수적인 조건이 아니며, 국제법을 포함한 모든 국제사회의 제도들은 국가간 권력정치와 가치의 공유가 그들간 합의를 유도하는 역할을 할 뿐이라는 불의 주장이 이를 뒷받침한다.

불의 국제사회론은 주권국가들로 이루어진 사회를 조명한다는 점에서 자칫 지나치게 국가중심적인 이론으로 보일 수 있다. 특히 비국가 행위자들이 국제정치에 상당한 영향력을 행사하는 현실을 국제사회론의 시각에서 해석하기란 쉽지 않다. 그러나 불이 강조한 국제질서의 형성에 있어 문화적·역사적 힘을 고려한다면 국제사회론을 마냥 국가중심적인 이론으로 단정 지을 수는 없다. 불은 한 사회의 구성원들이 공유하는 공통의 규범·규칙·제도에 대한 이해는 시간적·공간적으로 변화하기 때문에 당시의 역사를 고려하기를 주문했는데, 이는 결국 국제사회의 규범구조가 역사의 흐름에 따라 얼마든지 변화될 수 있다는 것을 의미한다. 또한 불은 <무정부 사회>의 국제법을 다룬 부분에서 국가 이외의 개인, 인간집단, 국제기구 또는 정부간 기구 등도 국가와 함께 국제법의 주체가 될 수 있다고 적었다. 따라서 국제질서를 가능케 하는 공통의 가치와 이익에 대한 이해가 국제법이라는 규칙의 총체로 이어지는 과정에서 국가 이외의 행위주체가 개입할 수 있는 여지를 남긴 것이다. 이러한 점에서 불의 국제사회론은 여전히 현실세계에 적용 가능한 이론이라 할 수 있다.