小沃森受其父老沃森影响，非常崇敬和钦佩那些有本事的人。他从小就认识一位经理，叫雷德·拉莫特，这是位极有能力的人。雷德·拉莫特认识IBM里所有的人，无论老少，对人有着合乎情理和不偏不倚的看法；面对老沃森敢于毫无顾忌地说出自己的真心话，对小沃森更是经常提出严厉的忠告。小沃森说，这位经理对他教益极大，否则他会犯更多的错误。另一位对小沃森至关重要的人叫阿尔·威廉斯，是他父亲手下的一员干将，所有的人都认为他很优秀。他一向对自己要求严格，长时间地努力工作和学习，以弥补自己没有上过大学的缺憾。在小沃森看来，阿尔极讲规范，有条不紊，又比较谨慎，帮助小沃森弥补了知识上的不足。小沃森由衷地钦佩他。正是由于小沃森钦佩并效仿那些正直而有本事的人，才使他一步步走向成熟，成为领导企业的能人。大思想家亚里士多德说得好：“严肃的人模仿高尚的人的行动，轻浮的人则模仿卑劣的人的行动。”钦佩并学习高尚的人，才有可能成为高尚的人。
小沃森在回忆录中写道：“我总是毫不犹豫地提拔我不喜欢的人。那种讨人喜欢的助手，喜欢与你一道外出钓鱼的好友，则是管理中的陷阱。相反，我总是寻找精明强干、爱挑毛病、语言尖刻、几乎令人生厌的人，他们能对你推心置腹。如果你能把这些人安排在你周围工作，耐心听取他们的意见，那么，你能取得的成就将是无限的。”这是小沃森的深切体会，道出了他用人的原则与特点。有位部门经理叫伯肯斯托克，是刚刚去世不久的IBM公司第二把手柯克的好友。柯克是小沃森的对头，伯肯斯托克认为，小沃森肯定会收拾他。因此，他打算辞职，故意找小沃森的茬儿。然而，小沃森并没有发火，他认为伯肯斯托克是个难得的人才，甚至比刚去世的柯克还精明，只是性格有些桀骜不驯。为了公司的前途，小沃森尽力挽留他。留下伯肯斯托克对IBM的计算机生意起了极大的作用。正是由于他们的携手努力，才使IBM免于灭顶之灾，并走向更辉煌的成功之路。小沃森在他回忆中说了这样一句话：“在柯克死后挽留伯肯斯托克是我有史以来所采取的最出色的行动之一。”后来接替小沃森担任董事会主席的文·利尔森，也是小沃森器重的人。他认为文·利尔森是一个很有本事的人，成绩突出，准备提升他。这时，小沃森收到一封信，写信人说他从利尔森那租了一栋房子，在修复破裂的水管一类东西的费用上发生了矛盾，利尔森要起诉他。小沃森亲自找利尔森谈话，调解这个矛盾。第二年，利尔森受命主持一个大区的推销工作，很有成绩，最后小沃森又提名他担任了IBM公司董事会主席。小沃森尊重有真才实学的人，敢于任用和关心爱护有本事也有缺点的人，善于发挥他人之长推进自己事业的发展，这也正是小沃森走向辉煌的一大要素。
小沃森不喜欢他父亲周围那种逢迎拍马、趋炎附势的气氛。他说，从我当推销员那时候起，我就很清楚谁对父亲的话唯命是从。有的人对他的每一句话都趋之若鹜，好像他是上帝似的。对那种人，我一有机会就要整治他们一下，决不手软。他还说，如果一个人不愿意理直气壮地捍卫自己，那我也不愿意同他共事，他不应该留在公司。这是小沃森为人处世和用人的又一条原则。他讨厌唯命是从的人。这种人多的是奴性，缺的是人性，更缺的是独立人格、个人主见、自我尊严。这种人不是一无所能，就是别有用心，至少不是一个具有正直品格的人。对这类人，小沃森不但不委以重任，而且不屑与之为伍。可见，小沃森用人重本事更重人品。