Do Zamościa przybył z Szydłowca, wuj Pereca (mąż  siostry jego matki), o którym napisze maskil w czarnym kapeluszu, znawca moich chłopięcych wierszy, pozbiera je i przechowa. Część ich opublikował po jego śmierci. Miał bibliotekę z książkami haskala. Zamieszczał w "Jutrzence" artykuły dotyczące Zamościa: Gmina żydowska w Zamościu (1861, nr 26, s. 259), Kolonia żydowska Żdanów pod Zamościem (1863, nr 22, s. 172-173) i Przywilej zamojski z 1588 r. (1863, nr 43, s. 433-435), a także genezę hajzówki (1877). Uchodzi za pierwszego historyka żydowskiego Zamościa. Jego syn Mosheh Altberg był bliskim przyjaciele Pereca.
Był jeszcze jeden Józef Altberg (1837-1901) w Zamościu, zapewne spokrewniony, tu zmarł. Pisał obszerne korespondencje do "Wieku" (1875 nr 101 i 102, 1876 nr 89, 1877 nr 19). Wybitny hebraista i erudyta. Zm. w Zamościu.

 * W opracowaniu Wspomnień (2022) byli to krewni pisarza Mojsze i Paulina Altberg, którego można identyfikować jako wywodzącego się z Zamościa tłumacza powieści i korespondenta pism (Mojżesz Altberg)
 * Z nekrologu w "Izraelicie" (Józef Altberg) - posiadał wiele wiedzy judaistycznej. Pozostawił pamięć człowieka nieskazitelnej prawości, o niepospolitych przymiotach charakteru