أنشئت سفارة الجمهورية الإسلامية الموريتانية لدى جمهورية ألمانيا الإتحادية بموجب المرسوم رقم 62 / 171 الصادر بتاريخ 26 يوليو 1962 .ظل مقرها في مدينة بون الى أن انتقلت يوم الثاني من شهر يوليو 2001 الى مدينة برلين التي خلفت مدينة بون كعاصمة لجمهورية ألمانيا الإتحادية اثر توحيد ألمانيا الشرقية وألمانيا الغربية عام 1990 بعد أن سقط ( عام 1989 ) الجدار الذي كان يفصل بينهما .
قدم أول سفير للجمهورية الإسلامية الموريتانية لدى جمهورية ألمانيا الإتحادية اوراق إعتماده الى رئيس ألمانيا الغربية آنذاك السيد هاينريش ليبكه يوم 3 سبتمبر 1962 .