Yaşar Paker'in ailesi, beşyüz yıl önce İspanya'nın Albukrek kentinden gelip Ankara'ya yerleşmiştir. Paker, yüzyıl başındaki Ankara'yı şöyle anlatıyor: "Bugünkü köyler, o zamanki Ankara'dan bin kat daha ileri. Samanpazarına yakın Yahudi mahallesi vardı. Cumartesi günü bütün aileler kapılarını karşıdan karşıya açar, adeta bütün mahalle tek ev gibi konuşurlardı. Dedem zamanında deveyle gelirdi mallar İstanbul'dan Ankara'ya. Deveciler bırakırlardı malları, herkes gider, kendi markasını alırdı. O zamanlar, yazı yazmayı bilmezlerdi. Her tüccarın kendi markası vardı. Benim dedemin markası, bir zarf şeklinde bir dörtgen, içine çizilmiş iki çapraz çizgiydi."
Küçük Yaşar, Ramze-i Terakki Musevi Mektebi'ne gider. Yaşar Paker o günleri şöyle anımsıyor: "Benim zamanında tatil yoktu bizim mektepte. Ancak haftada bir gün bir sınıfa izin verirlerdi. Bizim sınıfımız toplandık, çay kenarına gittik. Yemek yerken sekiz on tane çocuk çıktı karşımıza. Bizi görünce başladılar taş atmağa. Hemen kaçmağa başladık. Onlar bizi kovalıyor, biz kaçıyoruz, geldik mahalleye. Ne biçim hayat idi. Ayrılık çok fena. Din farkı oldu mu birbirine düşman olunuyor. Hatta ben hatırlarım, adeta rüya, öyle bir elbise istiyordum ki iğneler çıksın, yanıma geldiler mi iğneler onlara batsın. O kadar korku vardı. Kim daha kuvvetliyse o hakim olurdu." Çocukluğunda yaşadığı korku o kadar içine işler ki Yaşar beyin, cemaatler arası bütünleşme onun en büyük hayalidir.