Caballería roja es un conjunto de relatos sobre los regimientos de caballería soviética que operaba en Polonia y es considerada como una de las obras literarias más importantes de la Revolución Rusa. A pesar de su contenido autobiográfico (aunque Natalia, la hija de Babel, niega este carácter autobiográfico) y a veces confesional, estos relatos poseen una atmósfera literaria original y llena de imaginación. Para su autor, lo fundamental es retratar el ambiente en el frente de batalla y la vida cotidiana de los soldados rusos, polacos, cosacos que intervienen en ella. Templos católicos y sinagogas de Galizia, al sur de Polonia, son los escenarios de los primeros cuentos, pero más adelante se describen los albergues y los campamentos en donde se hospedan, riñen y dialogan, los puros y elementales cosacos de la Caballería roja, como ha mencionado, acerca de este libro, el destacado literato Sergio Pitol.
La parte más interesante de la obra es el testimonio que Babel nos brinda sobre el rompecabezas social de ese tiempo: Judíos que se han comprometido con la revolución, pero pronto son discriminados, combatientes soviéticos entusiasmados con la ideología leninista, pero se deja entrever las reminiscencias del zarismo, en este ambiente, el atraso y la ignorancia conviven con la piedad y el erotismo, más reales que la política o la idea de la historia. Babel elige para sus cuentos un tono de epopeya menor, donde la guerra es el lugar de los hechos, en la cual la crueldad y el heroísmo apenas se diferencian.
El general Budionny, bajo cuyas órdenes estuvo Babel cabalgando con los cosacos, criticó al autor por la descripción descarnada de las batallas y la crueldad que los relatos transmitían, y trató de impedir la publicación de la obra. El general señala que el libro inventa cosas que nunca acontecieron y denigra a los mejores comandantes comunistas, y considera que su autor no está capacitado para manejar la dialéctica marxista. Ante ello Máximo Gorki, que comparaba a Caballería roja con Taras Bulba de Gogol, defendió la obra de Babel de esta forma: no puedo recordar ninguna otra descripción tan llena de color y vida de los combatientes individuales, ninguna otra descripción de la psicología de la masa del Ejército Rojo, y aclara que el libro no tiene paralelo en la literatura rusa. El mismo Stalin apoyo a Babel, reconociendo el gran mérito literario de los relatos.