Am 10. September 1952 unterzeichneten der israelische Außenminister Mosche Scharett, der Präsident der Conference on Jewish Material Claims Against Germany, Nachum Goldmann, und Bundeskanzler Konrad Adenauer das Luxemburger Abkommen. Die nach komplizierten Verhandlungen erreichte Vereinbarung sah zusätzlich zu individuellen Entschädigungen für Holocaust-Überlebende westdeutsche Zahlungen von drei Milliarden D-Mark an Israel und Kompensationen in Höhe von 450 Millionen D-Mark an die Claims Conference vor, die jüdische Opfer außerhalb Israels vertrat. Die Leistungen erstreckten sich über einen Zeitraum von zwölf Jahren und erfolgten vorwiegend durch deutsche Warenlieferungen; rund eine Milliarde D-Mark war zur Finanzierung israelischer Erdölkäufe vorgesehen. Den Hauptanteil der deutschen Lieferungen bildeten im folgenden Jahrzehnt zu 55,3 Prozent Erzeugnisse des Maschinenbaus, der Kraftfahrzeugindustrie, der Feinmechanik/Optik, des Schiffbaus, gefolgt mit 14 Prozent chemisch-pharmazeutischer Produkte, Textilien, Lederwaren, Keramik- und Glaserzeugnissen.
Das Abkommen war sowohl in Israel als auch in Deutschland höchst umstritten. Der rechtskonservative israelische Oppositionsführer Menachem Begin zum Beispiel lehnte das "Blutgeld" ab; er forderte zum offenen Widerstand gegen die Regierung Ben Gurions auf. Geld könne den millionenfachen Judenmord nicht sühnen. Vergebung sei nicht käuflich. Auch die linksgerichtete Mapam und die Kommunisten sprachen sich im Parlament gegen die Gespräche und Vereinbarungen mit der Bundesregierung aus. Im August 1952 in Deutschland durchgeführte Meinungsumfragen wiesen gleichfalls nach, dass zu diesem Zeitpunkt lediglich elf Prozent der Bundesbürger Reparationszahlungen an Israel befürworteten; 24 Prozent sahen sie als zu hoch an, 44 Prozent hielten sie für überflüssig.
Die politisch Verantwortlichen in Jerusalem und Bonn ließen sich von der Stimmungslage unter den Menschen in beiden Staaten nicht beirren. Außenminister Scharett betonte am 14. März 1951 vor der Knesset, die israelischen Forderungen seien angesichts der von Deutschen an den Juden begangenen Verbrechen in höchstem Maße berechtigt. Er mahnte die Verantwortung beider deutscher Staaten an. Während die Sowjetunion und die DDR-Führung zu diesem Zeitpunkt jedoch jegliche Verpflichtung gegenüber Israel mit dem Verweis auf die grundsätzliche Erfüllung des Potsdamer Abkommens durch Ostdeutschland ablehnten, bekannte sich Bundeskanzler Adenauer in Übereinkunft mit den westlichen Besatzungsmächten, insbesondere den USA, zu den "im Namen des deutschen Volkes begangenen Verbrechen". Seine Regierungserklärung vom 27. September 1951 ebnete den Weg zu den deutsch-israelischen Verhandlungen.
Für die israelische Delegation war der Kontakt mit den deutschen Verhandlungspartnern nicht einfach. Felix Schinnar, der spätere Leiter der israelischen Vertretung in Köln, schrieb in seinen Erinnerungen: "Zu schildern, was in uns vorging - sieben Jahre nach Hitler und Kriegsende - ist ebenso schwer wie das Erfassen und Verstehen der Tragödie, die den Anlass für diese Begegnung bildete, bis zum heutigen Tag."
Neben der Erwägung, dass Deutsche sich nicht dauerhaft an geraubtem jüdischen Eigentum bereichern dürften und zu materieller Entschädigung verpflichtet seien, hatte Ben Gurion die äußerst schwierige wirtschaftliche Situation zu bedenken, in der sich sein junger Staat befand. Die Wirtschaftskraft des Landes war noch gering. Sie beruhte vorwiegend auf der Landwirtschaft und kleineren Industriebetrieben mit geringer Produktivität. Nur 40 Prozent des Lebensmittelbedarfs konnten durch eigene Produktion gedeckt werden. In dem rohstoffarmen Land fehlte es an allem und viele Menschen lebten unter dem Existenzminimum.
Hinzu kam, dass sich die Bevölkerung in den vier Jahren nach der Unabhängigkeitserklärung verdoppelt hatte. Zu den mehr als 680.000 Neueinwanderern, die ins Land strömten, gehörten 330.000 Überlebende der Shoah, Menschen somit, die Furchtbares durchlebt hatten und so schnell wie möglich Europa verlassen wollten. Sie waren zumeist nur knapp dem Tode in deutschen Konzentrations- und Vernichtungslagern entronnen und gelangten ohne jegliches Hab und Gut nach Palästina. Die erste "Massenalijah" der Jahre 1948-1952 umfasste zudem Hunderttausende Juden aus der Türkei, Iran und arabischen Staaten, vor allem aus Irak, Ägypten, Jemen, Marokko und Tunesien, die im Umfeld des ersten Nahostkrieges Israel erreichten.
Viele der Neuzuwanderer mussten vorübergehend in Zelten und Baracken hausen. Bis 1952 entstanden 111 Übergangslager, in denen zeitweilig eine Viertel Million Menschen lebte. Neben der Unterbringung waren die medizinische Versorgung, die schulische Ausbildung der Kinder und die berufliche Integration der Erwachsenen zu gewährleisten. Selbst die tägliche Versorgung mit Lebensmitteln war nicht immer gesichert. Im Winter 1950/51 waren Brot und Mehl nur noch für wenige Tage vorhanden. Israel befand sich am Rande eines Staatsbankrotts. Die Aufnahme in das US-Hilfsprogramm bewahrte das Land zwar vor einer Hungersnot und dem drohenden Zusammenbruch; viele Probleme jedoch blieben ungelöst.
Die wirtschaftlichen und sozialen Existenzfragen wurden durch den anhaltenden Konflikt mit den arabischen Nachbarstaaten verschärft. Auf die Waffenstillstandsabkommen von 1949 waren keine Friedensverträge gefolgt; das Problem der Palästinaflüchtlinge blieb ungelöst. Zwischenfälle an den Grenzen zu Ägypten, Jordanien und Syrien häuften sich. Die Verteidigungsausgaben verschlangen einen großen Teil des israelischen Staatsbudgets.
Ben Gurion sah sich somit nicht zuletzt aus wirtschaftlichen und sicherheitspolitischen Gründen veranlasst, die Deutschen zur Kasse zu bitten. Seine pragmatischen Erwägungen trafen sich mit dem Interesse der Bundesregierung. Sie suchte die Eingliederung in die internationale Staatengemeinschaft und in das westliche Bündnis mit dem Nachweis zu untersetzen, dass der westdeutsche Staat sich der jüngsten deutschen Vergangenheit stelle und zu materieller wie ideeller Wiedergutmachung bereit sei.
Das Luxemburger Abkommen bildete in der Tat einen wichtigen Schritt für die Herstellung internationalen Vertrauens in die Bundesrepublik. Es schuf zudem wichtige Grundlagen für die Entwicklung allseitiger Beziehungen zwischen Israel und Deutschland, sei es für umfassende Handelskontakte oder für die künftige wirtschaftliche, wissenschaftlich-technische und militärische Kooperation. Die Vereinbarung bestand ihren wichtigsten Test, als sich die Bundesregierung während des Suezkrieges 1956 dem Druck seitens der USA widersetzte, die Zahlungen an Israel zu stoppen. Im März 1960 vereinbarten David Ben Gurion und Konrad Adenauer bei einem Treffen im New Yorker Waldorf-Astoria Hotel schließlich Maßnahmen für die Zeit nach Auslaufen des Abkommens. Die Bundesrepublik wurde - nach den USA - zum zweitwichtigsten Exportmarkt und Handelspartner Israels.
Den deutschen Beitrag für die Entwicklung des jüdischen Staates während des ersten Jahrzehnts seiner Existenz wertete Nachum Goldmann, bis 1977 Präsident des Jüdischen Weltkongresses und einer der Architekten des Luxemburger Abkommens, Mitte der 70er-Jahre: "Ohne die deutschen Wiedergutmachungsleistungen, die in den ersten zehn Jahren nach der Gründung Israels einsetzten, besäße der Staat kaum über die Hälfte seiner heutigen Infrastruktur: alle Züge, alle Schiffe, alle Elektrizitätswerke sowie ein Großteil der Industrie sind deutschen Ursprungs."
Problemlos gestalteten sich die bilateralen Beziehungen in den folgenden Jahren jedoch keinesfalls. Insbesondere der vom 11. April bis 15. Dezember 1961 in Jerusalem gegen Adolf Eichmann, einen der Hauptverantwortlichen für die Durchführung der "Endlösung der Judenfrage" im Dritten Reich, geführte Prozess rief sowohl der israelischen als auch der deutschen Öffentlichkeit das Ausmaß der an den Juden begangenen nationalsozialistischen Verbrechen ins Bewusstsein. Das Tribunal ließ erkennen, dass mit materiellen deutschen Leistungen die nationale wie die internationale Auseinandersetzung mit der Shoah wie mit deutscher Schuld und fortdauernder Verantwortung keineswegs abgeschlossen sein konnte.
Hinzu kam, dass eine Reihe offener Fragen durch das Luxemburger Abkommen nicht beantwortet und künftigen Vereinbarungen anheim gestellt wurde. Dazu gehörten unter anderem die Zahlung eines Drittels der von Israel geforderten Reparationen durch die DDR, die Entschädigung osteuropäischer Holocaust-Überlebender, die Rückerstattung beziehungsweise Kompensation geraubten jüdischen Eigentums außerhalb Deutschlands, das Schicksal jüdischer Bankguthaben und geraubter Kunstschätze sowie die Entschädigung für Zwangsarbeiter während der NS-Zeit. Einige der offen gebliebenen Rechtsansprüche und Forderungen konnten erst 50 Jahre nach dem Luxemburger Abkommen durch Kompromissvereinbarungen geregelt oder in ihrer negativen Langzeitwirkung gemindert werden - zu einem Zeitpunkt freilich, da viele der Opfer nationalsozialistischer Willkür nicht mehr lebten oder bereits ein hohes Alter erreicht hatten.