德皇威廉一世根本反对与奥国缔结同盟，他认为这样无异于出卖了他的好朋友和外甥沙皇亚历山大，经过俾斯麦的详细解释，才勉强表示同意。1879年10月7日，德奥两国签订了一项防御同盟。双方同意如果有一国遭受俄国攻击，则应彼此互助；如果有一国遭受其他国家诸如法国攻击，则另一个应守“善意中立”。不过若法俄两国合作，则德奥两国也同意采取联合行动。此项条约有效期为五年，以后会一再延长，到1914年仍然有效。
在这个同盟缔结之后，俾斯麦又尽量争取俄国的好感。他从不干涉俄国寻求不冻港的企图。为了安抚俄国起见，他又拒绝日本所提的缔结同盟的要求。他也尽量避免遭到奥国的拖累。他曾经明白地宣称：“整个巴尔干都不值得让德国死一个士兵。”所以德奥同盟的目的是仅在维持现状，而绝非鼓励侵略与扩张。他同时又劝告奥国人应让俄国向君士坦丁堡发展，因为这样既能促使英国与之为敌，因英国无论如何也都不希望俄国接近苏伊士运河。
果然不出俾斯麦所料，德奥同盟会把俄国引回德国怀抱。1881年6月18日，德奥俄三国在柏林缔结了“三帝同盟”。其条约的第一条为三国中之任何一国若与第四大国发生战争则其他两国应维持善意中立以使战争局部化。这所指当然不仅为法国，而也可能包括英国甚或土耳其在内。其第二条为俄国承认柏林条约所给予奥匈帝国在巴尔干的地位，另有秘密附约规定奥俄双方在巴尔干的势力范围。
三帝同盟一共维持了六年，后来俄国因为反对奥国的巴尔干政策才拒绝续约。但同时，俄国却建议继续维持德俄之间的同盟关系。双方于1887年6月18日签订所谓“再保险条约”。其主要各款与三帝同盟的规定完全一样。俾斯麦并不怕引起奥国的猜疑，他故意让奥国当局知道，使其不敢轻举妄动。
意大利很早就已要求加入德奥同盟。结果是在1882年组成了德、奥、意三国同盟，罗马尼亚不久也加入，而塞尔维亚也曾一度参加。西班牙的国王则亲自向俾斯麦保证，如果德法之间发生战争西班牙一定帮助德国。
俾斯麦还不感到满足，他又在英、奥、意三国之间制造一个地中海三国同盟（1887年），以保证地中海地区的领土现状。
西班牙也加入了这个同盟。如果法国人在这个时候想吞并摩洛哥，则这四个国家将起而干涉。当英国要求德国本身也参加时却遭到俾斯麦的拒绝，因为这样的同盟中会妨碍德俄之间的友好关系。他的外交政策是一方面保持同俄国的友谊，另一方面使权力平衡变得对俄国略显不利，这样也就可以迫使沙皇感觉更需要一个友好的德国。
