单位在试用期辞退员工是不是就可以随便进行

不可以。
《劳动合同法》第二十一条，在试用期中，除劳动者有本法第三十九条和第四十条第一项、第二项规定的情形外，用人单位不得解除劳动合同。用人单位在试用期解除劳动合同的，应当向劳动者说明理由。
《劳动合同法》第三十九条，劳动者有下列情形之一的，用人单位可以解除劳动合同：
(一)在试用期间被证明不符合录用条件的；
(二)严重违反用人单位的规章制度的；
(三)严重失职，营私舞弊，给用人单位造成重大损害的；
(四)劳动者同时与其他用人单位建立劳动关系，对完成本单位的工作任务造成严重影响，或者经用人单位提出，拒不改正的；
(五)因本法第二十六条第一款第一项规定的情形致使劳动合同无效的；
(六)被依法追究刑事责任的。
《劳动合同法》第四十条，有下列情形之一的，用人单位提前三十日以书面形式通知劳动者本人或者额外支付劳动者一个月工资后，可以解除劳动合同：
(一)劳动者患病或者非因工负伤，在规定的医疗期满后不能从事原工作，也不能从事由用人单位另行安排的工作的；
(二)劳动者不能胜任工作，经过培训或者调整工作岗位，仍不能胜任工作的。