I 529/99
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Die gesetzlichen Voraussetzungen für den Anspruch auf eine IV-Rente (Art. 4 Abs. 1 und Art. 28 Abs. 2 IVG)
sind im kantonalen Entscheid richtig dargelegt, weshalb darauf verwiesen wird.
2.- Streitig ist zunächst das hypothetische Valideneinkommen.
a) Die Verwaltung stellte auf das in der zuletzt ausgeübten Tätigkeit bei der B.________ AG erzielte Einkommen ab, welches sich nach Auskunft der Firma vom 20. Mai 1996 im Jahr 1995 auf Fr. 65'650.- belief. Hiegegen machte der
Versicherte schon im kantonalen Verfahren geltend, er habe bis 1979 als Maschinenführer in einem andern Betrieb gearbeitet. Damals habe er aus gesundheitlichen Gründen zur
B.________ gewechselt, wo er einer leichteren Tätigkeit nachgehen konnte, aber einen Einkommensverlust von 15 % erlitten habe. Zur Ermittlung des Invaliditätsgrades sei daher auf den Lohn eines erfahrenen Maschinenführers abzustellen, der nach den einschlägigen Tabellenlöhnen
Fr. 77'000.- betrage. Die Vorinstanz wies die Sache an die
IV-Stelle zurück, damit sie abkläre, ob diese Angaben zuträfen. Die IV-Stelle hingegen erachtet es als untauglich,
Beweis über einen 20 Jahre zurück liegenden Sachverhalt zu führen. Selbst wenn sich die Behauptungen des Versicherten als wahr erweisen sollten, lasse sich kein gesicherter
Schluss auf ein heutiges hypothetisches Valideneinkommen von Fr. 77'000.- ziehen.
b) Wie die Vorinstanz richtig erwogen hat, kann das hypothetische Valideneinkommen nicht immer ohne weiteres dem in der bisherigen Tätigkeit erzielten Lohn gleich gesetzt werden, namentlich dann nicht, wenn dieser Lohn selbst schon das Ergebnis einer früher eingetretenen gesundheitlichen Beeinträchtigung ist. Genau dies macht der
Versicherte geltend. Es ist nicht auszuschliessen, dass er tatsächlich aus gesundheitlichen Gründen von der Arbeit als
Maschinenführer bei der S.________ AG zur B.________ AG gewechselt und dabei eine Lohneinbusse in Kauf genommen hat.
Die Firma S.________ AG existiert nach den Angaben in den
Akten offenbar noch. Somit ist ein Beweis über die "Validenkarriere" des Beschwerdegegners nicht von vornherein unmöglich, weshalb die vorinstanzliche Rückweisung zu näheren Abklärungen zu bestätigen ist.
3.- a) Die Vorinstanz wies die Sache überdies an die
Verwaltung zurück, damit sie die dem Beschwerdegegner noch verbliebene Arbeitsfähigkeit näher abkläre. Das Gutachten von Dr. med. N.________, Spezialarzt Orthopädische Chirurgie FMH, vom 14. April 1997 genüge nicht, da es sich einzig zu zwei bestimmten Tätigkeiten äussere, nämlich zur bisherigen als Lagerarbeiter bei der B.________ AG und zu einer solchen als Lagerbewirtschafter im selben Betrieb. Eine
Stellenbeschreibung habe dem Arzt nicht zur Verfügung gestanden. Der Unterschied zwischen den beiden Tätigkeiten bleibe unklar. Die IV-Stelle werde prüfen, welche Arbeiten insgesamt dem Versicherten noch zumutbar seien, und hierauf einen Einkommensvergleich vornehmen.
b) Die Verwaltung gab im Administrativverfahren die erwähnte Begutachtung in Auftrag. Dabei stellte sie unter anderem Fragen nach der Arbeitsfähigkeit in der bisherigen
Tätigkeit und "in der geplanten Tätigkeit als Lagerbewirtschafter (Fa. B.________ AG) ". Der Gutachter antwortete in dem Sinne, dass der Versicherte in seinem Betrieb seit Juli
1995 eine körperlich weniger belastende Tätigkeit ausüben könne, in welcher seine effektive Leistung 80 % betrage.
Als Lagerbewirtschafter sei ihm eine Arbeitsfähigkeit von 100 % zuzumuten.
c) In einem Kurzbericht vom 18. Juli 1997 bestreitet
Dr. med. Z.________, Facharzt FMH für Allgemeine Medizin, diese Beurteilung der Arbeitsfähigkeit. "Mir scheint, Herr
N.________ unterschätzt die Belastungen im Betrieb ganz gewaltig." Die B.________ AG hatte in der Auskunft vom 20. Mai 1996 die Einschränkung der Arbeitsfähigkeit auf 20 % ab etwa Juli 1995 beziffert, hält diese Annahme aber im Bericht vom 21. Juni 1997 und in der telefonischen Antwort vom 1. Juli 1997 für überholt. Der Versicherte lässt einwenden, Dr. N.________ habe auf die veralteten Angaben der Firma aus dem Jahr 1995 abgestellt, ohne zu wissen, worin die Tätigkeiten konkret beständen. Seine Gesundheit verschlechtere sich laufend und erlaube ihm auch in körperlich leichten Arbeiten keine volle Leistung mehr.
d) Ursprünglich arbeitete der Beschwerdegegner als
"Lagerarbeiter" bei der B.________ AG. Gemäss Bericht der
Firma vom 20. Mai 1996 erreichte er in dieser Tätigkeit seit Juli 1995 nur noch eine Leistung von 80 % (leistungsgerechter Lohn Fr. 4160.- im Monat statt Fr. 5200.-). Laut
Angaben des Berufsberaters vom 20. Dezember 1996 hat die
Firma dem Versicherten angeboten, ab 1. Januar 1997 halbtags mit halbem Lohn (Fr. 2600.-) in der "Lagerbewirtschaftung" zu arbeiten. Dieses Angebot scheine "das Richtige" zu sein. Demgegenüber beziffert Dr. N.________ die Arbeitsunfähigkeit als "Lagerarbeiter" mit 20 %, hält aber die Tätigkeit als "Lagerbewirtschafter" für voll zumutbar.
Dr. Z.________ bestreitet dieses Leistungsvermögen. Angaben über die Arbeitsfähigkeit in allfälligen weiteren, zumutbaren Tätigkeiten sind keine vorhanden.
e) Das erwähnte Gutachten von Dr. N.________ bezieht sich einzig auf die zwei Tätigkeiten bei der B.________ AG.
Worin sie sich unterscheiden und weshalb die Arbeit als
Lagerbewirtschafter voll, diejenige als Lagerarbeiter nur zu 80 % zumutbar sei, bleibt unklar. Die Arbeitsfähigkeit von 80 % als Lagerarbeiter wird überdies nicht medizinisch, sondern mit den Angaben der Firma begründet, welche von
Juli 1995 bis Ende 1996 eine Leistungsfähigkeit von 80 % für diese Arbeit bescheinigt hatte. Die Versicherten müssen sich jedoch auf dem gesamten, für sie in Frage kommenden
Arbeitsmarkt umsehen. Ob und welche Tätigkeiten dem Beschwerdegegner neben denjenigen am alten Arbeitsplatz noch in welchem Ausmass zumutbar sind, lässt sich dem Gutachten von Dr. N.________ nicht entnehmen. Dazu kommen die einander widersprechenden Angaben des Berufsberaters, der Arbeitgeberin und des Hausarztes hinsichtlich der Tätigkeiten bei der B.________ AG. Im Übrigen entspricht der Einkommensvergleich in der angefochtenen Verfügung nicht dem üblichen Vorgehen (BGE 124 V 323), sondern stellt einzig auf die Angaben der B.________ AG vom 20. Mai 1995 ab, wonach eine Arbeitsfähigkeit von 80 % (in der alten Tätigkeit als
Lagerarbeiter, nicht als Lagerbewirtschafter) bestehe. Diese Einschätzung ist nach dem Gesagten möglicherweise überholt. Unter solchen Umständen ist der Vorinstanz kein Vorwurf zu machen, wenn sie die Sache auch in diesem Punkt zu näheren Abklärungen an die Verwaltung zurückgewiesen hat.
Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde abgewiesen.
II.Es werden keine Gerichtskosten erhoben.
III.Die IV-Stelle des Kantons St. Gallen hat dem Beschwerdegegner für das Verfahren vor dem Eidgenössischen
Versicherungsgericht eine Parteientschädigung von
Fr. 2500.- (einschliesslich Mehrwertsteuer) zu bezahlen.
IV.Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen, der Ausgleichskasse des
Kantons St. Gallen und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 28. März 2000
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer:
Der Gerichtsschreiber: