在山上挖石头的行为一般是不违法的,但若其采挖数量较大、且没有获得有关部门的许可则违法;情节严重的还可能构成犯罪。我国《刑法》规定,违反矿产资源法的规定,未取得采矿许可证擅自采矿,情节严重的,处三年以下有期徒刑、拘役或者管制,并处或者单处罚金。法律依据:《
中华人民共和国刑法》第三百四十三条
违反矿产资源法的规定,未取得采矿许可证擅自采矿,擅自进入国家规划矿区、对国民经济具有重要价值的矿区和他人矿区范围采矿,或者擅自开采国家规定实行保护性开采的特定矿种,情节严重的,处三年以下有期徒刑、拘役或者管制,并处或者单处罚金;情节特别严重的,处三年以上七年以下有期徒刑,并处罚金。
违反矿产资源法的规定,采取破坏性的开采方法开采矿产资源,造成矿产资源严重破坏的,处五年以下有期徒刑或者拘役,并处罚金。