Gọi bán kính hình tròn nhỏ là r.

Sao chép bán kính của hình tròn nhỏ rồi áp vào hình tròn to bên trái, sau đó nối tâm của hình tròn nhỏ với hình tròn to bên trái và điểm mút bên trên bán kính sao chép, ta được một tam giác vuông như hình trên.

Ta thấy: cạnh huyền của tam giác vuông vừa tạo bằng độ dài bán kính cuả hình tròn lớn bên trái + độ dài bán kính của hình tròn nhỏ nên có độ dài là     4 + r

Lại thấy: một cạnh góc vuông của hình tam giác vuông vừa tạo = độ dài bán kính của hình tròn lớn bên trái - độ dài của hình tròn bé nên bằng 4 - r

Gọi cạnh góc vuông còn lại của tam giác vuông vừa tạo là a.

Áp dụng định lý Pytago vào tam giác vuông vừa tạo, ta có:

     \(\left(4-r\right)^2+a^2=\left(4+r\right)^2\)

\(\Rightarrow a=\sqrt{\left(4+r\right)^2-\left(4-r\right)^2}=4\sqrt{r}\)

Sao chép bán kính của hình tròn bé một lần nữa rồi áp vào hình tròn to bên phải, rồi nối tâm của hình tròn nhỏ với hình tròn to bên phải và điểm mút bên trên bán kính sao chép, ta được một tam giác vuông thứ 2 như hình trên.

Ta thấy: cạnh huyền của tam giác vuông thứ 2 bằng độ dài của bán kính lớn bên trái + bán kính của hình tròn nhỏ, vậy là 2 + r.

Lại thấy: một cạnh góc vuông của tam giác vuông thứ 2 = độ dài bán kính của hình tròn lớn bên phải - độ dài của hình tròn bé nên bằng 2 - r.

Gọi cạnh góc vuông còn lại của tam giác vuông thứ 2 là b.

Áp dụng định lý Pytago vào tam giác vuông thứ 2 ta có:

     \(\left(2-r\right)^2+b^2=\left(2+r\right)^2\)

\(\Rightarrow b=\sqrt{\left(2+r\right)^2-\left(2-r\right)^2}=\left(2\sqrt{2}\right)\sqrt{r}\)

Vẽ một đường thẳng vuông góc với bán kính của hình tròn lớn bên phải xuất phát từ tâm hình tròn bên trái rồi nối 2 tâm của 2 hình tròn lớn với nhau, ta tạo thêm một tam giác vuông thứ 3 nữa.

Ta thấy: cạnh huyền của tam giác vuông thứ 3 bằng tổng độ dài của 2 bán kính của 2 hình tròn lớn, vậy là bằng: 4 + 2 = 6

Lại thấy: Một cạnh góc vuông của tam giác vuông thứ 3 bằng hiệu độ dài của bán kính của hình tròn lớn bên trái và bán kính của hình tròn nhỏ bên phải, vậy là: 4 - 2 = 2, cạch góc vuông còn lại song song với 2 cạnh góc vuông bên dưới của hai tam giác vuông 1 và 2, vậy là: \(4\sqrt{r}+\left(2\sqrt{2}\right)\sqrt{r}=\sqrt{r}\left(4+2\sqrt{2}\right)\)

Áp dụng định lý Pytago vào tam giác vuông thứ 3 ta có:

     \(6^2+2^2=\left[\sqrt{r}\left(4+2\sqrt{2}\right)\right]^2\)

\(\Rightarrow32=r\left(4+2\sqrt{2}\right)^2\)

\(\Rightarrow r=\dfrac{32}{4+2\sqrt{2}}=12-8\sqrt{2}\)

Vậy \(r=12-8\sqrt{2}\)