Российский поэт, библиограф и эссеист, общественный деятель. Окончил филологический факультет Московского государственного заочного педагогического института (ныне Московский государственный гуманитарный университет имени М. А. Шолохова) в 1971 году. Один из основоположников и лидеров московского концептуализма в литературе. В середине 1970‑х годов под влиянием работы с библиотечными карточками создал собственный жанр «картотеки». В 1991 году выступил составителем литературно‑художественного альманаха «Личное дело №». Член Союза писателей с 1991 года. Лауреат Премии Андрея Белого 1999 года в номинации «Критика и гуманитарные исследования», премии русской эмиграции «Liberty» в 2003 году. Лауреат литературной премии «НОС‑2012» за книгу «Знаки внимания». В 2015 году была издана книга «Большая картотека», куда вошли все тексты Рубинштейна, написанные в «карточной» манере.
Жил и работал в Москве.